A

$A$、小卵石和石英砂是利用缝隙过滤除去水中的不溶性杂质，故选项说法正确；
$B$、活性炭具有吸附性，可以除去水中的色素和异味，但不能起到杀菌消毒的效果，故选项说法错误；
$C$、小卵石和石英砂可以过滤除去水中难溶性杂质，活性炭具有吸附性，可以除去水中的色素和异味，二者位置不能颠倒，故选项说法错误；
$D$、该净水器不能除去水中的可溶性杂质、微生物等，不能除去可溶性钙镁的化合物，硬水通过该装置净化后不能得到软水，故选项说法错误。
故选：$A$。