$(1)$证明：连接$CO$、$EO$、$BC$，
$\because BD$是$\odot O$的切线，
$\therefore \angle ABD=90^{\circ}$，
$\because AB$是直径，
$\therefore \angle BCA=\angle BCD=90^{\circ}$，
$\because Rt\triangle BCD$中，$E$是$BD$的中点，
$\therefore CE=BE=ED$，
$\because OC=OB$，$OE=OE$，
则$\triangle EBO$≌$\triangle ECO\left(SSS\right)$，
$\therefore \angle ECO=\angle EBO=90^{\circ}$，
$\because$点$C$在圆上，
$\therefore CE$是$\odot O$的切线；
$(2)$解法一：$Rt\triangle ACF$中，$\because AC=5$，$CF=3$，
$\therefore AF=4$，
设圆$O$的半径为$r$，则$OF=4-r$，
由勾股定理得：$CF^{2}+OF^{2}=CO^{2}$，
即$3^{2}+\left(4-r\right)^{2}=r^{2}$，$r=\frac{25}{8}$；
解法二：$Rt\triangle ACF$中，$\because AC=5$，$CF=3$，
$\therefore AF=4$，

设$BF=x$，
由勾股定理得：$BC^{2}=x^{2}+3^{2}$，
$BC^{2}+AC^{2}=AB^{2}$，
$x^{2}+3^{2}+5^{2}=\left(x+4\right)^{2}$，
$x=\frac{9}{4}$，
则$r=\frac{1}{2}×(\frac{9}{4}+4)=\frac{25}{8}$，
则$\odot O$的半径为$\frac{25}{8}$.

$(1)$证明：连接$CO$、$EO$、$BC$，
$\because BD$是$\odot O$的切线，
$\therefore \angle ABD=90^{\circ}$，
$\because AB$是直径，
$\therefore \angle BCA=\angle BCD=90^{\circ}$，
$\because Rt\triangle BCD$中，$E$是$BD$的中点，
$\therefore CE=BE=ED$，
$\because OC=OB$，$OE=OE$，
则$\triangle EBO$≌$\triangle ECO\left(SSS\right)$，
$\therefore \angle ECO=\angle EBO=90^{\circ}$，
$\because$点$C$在圆上，
$\therefore CE$是$\odot O$的切线；
$(2)$解法一：$Rt\triangle ACF$中，$\because AC=5$，$CF=3$，
$\therefore AF=4$，
设圆$O$的半径为$r$，则$OF=4-r$，
由勾股定理得：$CF^{2}+OF^{2}=CO^{2}$，
即$3^{2}+\left(4-r\right)^{2}=r^{2}$，$r=\frac{25}{8}$；
解法二：$Rt\triangle ACF$中，$\because AC=5$，$CF=3$，
$\therefore AF=4$，

设$BF=x$，
由勾股定理得：$BC^{2}=x^{2}+3^{2}$，
$BC^{2}+AC^{2}=AB^{2}$，
$x^{2}+3^{2}+5^{2}=\left(x+4\right)^{2}$，
$x=\frac{9}{4}$，
则$r=\frac{1}{2}×(\frac{9}{4}+4)=\frac{25}{8}$，
则$\odot O$的半径为$\frac{25}{8}$.