D

$A$、水是由非金属元素组成的化合物，是由水分子构成的；氧气属于气态非金属单质，是由氧分子构成的，故选项错误。
$B$、氨气、氯化氢均是由非金属元素组成的化合物，分别是由氨分子、氯化氢分子构成的，故选项错误。
$C$、汞属于金属单质，是由汞原子直接构成的；金刚石属于固态非金属单质，是由碳原子直接构成的，故选项错误。
$D$、硫酸铜、氯化钠均是含有金属元素和非金属元素的化合物，分别是由铜离子和硫酸根离子、钠离子和氯离子构成的，故选项正确。
故选：$D$。