由f(x)在实数集上单调递增可知,要使函数f(x)=x3+ax-b在区间[1,2]上有零点,只需满足条件,从而解得b-a≥1且b-2a≤8,后验证a,b即可获解.
【解析】
由f(x)在实数集上单调递增可知,要使函数f(x)=x3+ax-b在区间[1,2]上有零点,
只需满足条件,从而解得b-a≥1且b-2a≤8,∴a+1≤b≤2a+8.
∴当a=1时,b取2,4,8; a=2时b取4,8,12;
a=3时,b取4,8,12; a=4时b取8,12; 共11种取法.
又∵a,b的总共取法有16种,故在区间(1,2)有零点的概率为,
故选C.