B

如图，过点$C$作$CT\bot y$轴于点$T$，过点$D$作$DH\bot CT$交$CT$的延长线于点$H$.

$\because \frac{AO}{OB}=3$，
$\therefore$设$OB=a$，$OA=3a$，
$\because$四边形$ABCD$是正方形，
$\therefore AB=BC$，$\angle ABC=\angle AOB=\angle BTC=90^{\circ}$，
$\therefore \angle ABO+\angle CBT=90^{\circ}$，$\angle CBT+\angle BCT=90^{\circ}$，
$\therefore \angle ABO=\angle BCT$，
$\therefore \triangle AOB$≌$\triangle BTC\left(AAS\right)$，
$\therefore BT=OA=3a$，$OB=TC=a$，
$\therefore OT=BT-OB=2a$，
$\therefore C\left(a,2a\right)$，
$\because$点$C$在$y=\frac{1}{x}$的图象上，
$\therefore 2a^{2}=1$，
同法可证$\triangle CHD$≌$\triangle BTC$，
$\therefore DH=CT=a$，$CH=BT=3a$，
$\therefore D\left(-2a,3a\right)$，
设经过点$D$的反比例函数的解析式为$y=\frac{k}{x}$，则有$-2a\times 3a=k$，
$\therefore k=-6a^{2}=-3$，
$\therefore$经过点$D$的反比例函数的解析式是$y=-\frac{3}{x}$.
故选：$B$.