求指导本题解题过程，谢谢您！5.设连续型随机变量X的分布函数为 F(x)= ) 0, xlt 0 k(x)^2, 0leqslant xlt 6 1, , (3)X的概率密度。

步骤 1：确定常数k
由于F(x)是分布函数，它在x趋向于正无穷时应该趋向于1。因此，当x=6时，F(x)应该等于1。根据题目给出的分布函数，我们有：
$F(6) = k \cdot 6^2 = 1$
解这个方程，得到：
$k = \frac{1}{36}$

步骤 2：计算概率 $P\{ 0\lt X\leqslant 2\}$
根据分布函数的定义，$P\{ 0\lt X\leqslant 2\}$ 可以通过计算 $F(2) - F(0)$ 来得到。根据分布函数的定义，我们有：
$F(2) = k \cdot 2^2 = \frac{1}{36} \cdot 4 = \frac{1}{9}$
$F(0) = 0$
因此，$P\{ 0\lt X\leqslant 2\} = F(2) - F(0) = \frac{1}{9} - 0 = \frac{1}{9}$

步骤 3：求X的概率密度
概率密度函数f(x)是分布函数F(x)的导数。根据分布函数的定义，我们有：
$F(x) = \frac{1}{36}x^2, \quad 0 \leqslant x \lt 6$
因此，概率密度函数f(x)为：
$f(x) = F'(x) = \frac{1}{18}x, \quad 0 \leqslant x \lt 6$
对于其他x值，概率密度函数为0。