C

$\because$比$a$小$2$的数用$b$表示，
$\therefore b=a-2$，
$\therefore |a|+|b|$
$=|a-0|+|a-2|$，
那么$|a|+|b|$的最小值就是在数轴上找一点$a$到原点和到$2$的距离最小，
显然这个点就是在$0$与$2$之间，
当$a$在区间$0$与$2$之间时，
$|a-0|+|a-2|=|2-0|=2$为最小值，
$\therefore |a|+|b|$的最小值为$2$，
故选：$C$.