C

延长$AC$到$E$，使$CE=CB$，连接$BE$，$AB$，过点$B$作$BF\bot AD$于点$F$，如图所示：

设$AD=BD=a$，$BC=b$，$AC=c$，
$\because$四边形$ABC$内接于$\odot O$，$\angle CAB=120^{\circ}$，
$\therefore \angle ADB=60^{\circ}$，
$\because AD=BD$，
$\therefore \triangle ABD$是等边三角形，
$\therefore AD=BD=AB=a$，$\angle ABD=60^{\circ}$，
$\because BF\bot AB$，
$\therefore AF=DF=\frac{1}{2}AD=\frac{a}{2}$，
在$Rt\triangle ABF$中，由勾股定理得：$BF=\sqrt{A{B}^{2}-A{F}^{2}}=\frac{\sqrt{3}a}{2}$，
$\therefore S_{\triangle ABD}=\frac{1}{2}AD\cdot BF=\frac{1}{2}×a×\frac{\sqrt{3}a}{2}=\frac{\sqrt{3}{a}^{2}}{4}$，
$\because \angle CAB=120^{\circ}$，
$\therefore \angle BCE=60^{\circ}$，
又$\because CE=CB$，
$\therefore \triangle CBE$是等边三角形，
$\therefore BC=CE=BE=b$，$\angle CBE=60^{\circ}$，
$\because BH\bot CE$，
$\therefore CH=HE=\frac{1}{2}CE=\frac{b}{2}$，
在$Rt\triangle CBH$中，由勾股定理得：$BH=\sqrt{B{C}^{2}-C{H}^{2}}=\frac{\sqrt{3}b}{2}$，
$\therefore S_{\triangle ABC}=\frac{1}{2}AC\cdot BH=\frac{1}{2}•c•\frac{\sqrt{3}b}{2}=\frac{\sqrt{3}}{4}bc$，
$\therefore S=S_{\triangle ABD}+S_{\triangle ABC}=\frac{\sqrt{3}}{4}({a}^{2}+bc)$，
在$Rt\triangle ABH$中，$AH=AC+CH=c+\frac{b}{2}$，$BH=\frac{\sqrt{3}b}{2}$，$AB=a$，
由勾股定理得：$AB^{2}=AH^{2}+BH^{2}$，
$\therefore$得${a}^{2}=(\frac{\sqrt{3}b}{2})^{2}+(c+\frac{b}{2})^{2}$，
整理得：$a^{2}=b^{2}+bc+c^{2}$，
即$a^{2}=\left(b+c\right)^{2}-bc$，
$\therefore a^{2}+bc=\left(b+c\right)^{2}$，
$\because \angle ABD=\angle CBE=60^{\circ}$，
$\therefore \angle ABD+\angle ABC=\angle CBE+\angle ABC$，
$\therefore \angle CBD=\angle EBA$，
在$\triangle CBD$和$\triangle EBA$中，
$\left\{\begin{array}{l}{∠2=∠1}\\{∠CBD=∠EBA}\\{BC=BE}\end{array}\right.$，
$\therefore \triangle CBD$≌$\triangle EBA\left(AAs\right)$，
$\therefore CD=AE=AC+CE$，
$\therefore x=a+b$，
$\therefore a^{2}+bc=x^{2}$，
$\therefore S=\frac{\sqrt{3}}{4}{x}^{2}$.
故选：$C$.