2.设二维随机变量(X,Y)的联合概率密度为f(x,y)=}x, & 0le xle 1,0le yle 3x,0, & 其他,求E(X^2+Y^2).

为了求解 $E(X^2 + Y^2)$，我们首先需要计算 $E(X^2)$ 和 $E(Y^2)$。根据期望的定义，对于连续随机变量，期望可以表示为积分形式。具体地，对于函数 $g(X, Y)$，其期望 $E(g(X, Y))$ 为： \[ E(g(X, Y)) = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) f(x, y) \, dy \, dx \] 在本题中，$g(X, Y) = X^2 + Y^2$，联合概率密度 $f(x, y)$ 为： \[ f(x, y) = \begin{cases} x, & 0 \le x \le 1, 0 \le y \le 3x, \\ 0, & \text{其他} \end{cases} \] 因此，我们有： \[ E(X^2 + Y^2) = \int_{0}^{1} \int_{0}^{3x} (x^2 + y^2) x \, dy \, dx \] 我们可以将这个积分拆分为两个部分： \[ E(X^2 + Y^2) = \int_{0}^{1} \int_{0}^{3x} x^3 \, dy \, dx + \int_{0}^{1} \int_{0}^{3x} x y^2 \, dy \, dx \] 首先计算第一个部分： \[ \int_{0}^{1} \int_{0}^{3x} x^3 \, dy \, dx = \int_{0}^{1} x^3 \left( \int_{0}^{3x} 1 \, dy \right) \, dx = \int_{0}^{1} x^3 \cdot 3x \, dx = \int_{0}^{1} 3x^4 \, dx = 3 \left[ \frac{x^5}{5} \right]_{0}^{1} = 3 \cdot \frac{1}{5} = \frac{3}{5} \] 接下来计算第二个部分： \[ \int_{0}^{1} \int_{0}^{3x} x y^2 \, dy \, dx = \int_{0}^{1} x \left( \int_{0}^{3x} y^2 \, dy \right) \, dx = \int_{0}^{1} x \cdot \left[ \frac{y^3}{3} \right]_{0}^{3x} \, dx = \int_{0}^{1} x \cdot \frac{(3x)^3}{3} \, dx = \int_{0}^{1} x \cdot \frac{27x^3}{3} \, dx = \int_{0}^{1} 9x^4 \, dx = 9 \left[ \frac{x^5}{5} \right]_{0}^{1} = 9 \cdot \frac{1}{5} = \frac{9}{5} \] 将两个部分的结果相加，得到： \[ E(X^2 + Y^2) = \frac{3}{5} + \frac{9}{5} = \frac{12}{5} \] 因此，最终答案是： \[ \boxed{\frac{12}{5}} \]