Parte (a): Determinante y rango de la matriz $M$.

Para calcular el determinante de $M$, aplicamos la regla de Sarrus:

$$det(M)=\left|\begin{array}{ccc}1& 1& 2\\ a& 1& 0\\ 1& 1& a\end{array}\right|=1\cdot \left|\begin{array}{cc}1& 0\\ 1& a\end{array}\right|-1\cdot \left|\begin{array}{cc}a& 0\\ 1& a\end{array}\right|+2\cdot \left|\begin{array}{cc}a& 1\\ 1& 1\end{array}\right|.$$

Calculamos los determinantes menores:

$$\left|\begin{array}{cc}1& 0\\ 1& a\end{array}\right|=a,\left|\begin{array}{cc}a& 0\\ 1& a\end{array}\right|=2a^2,\left|\begin{array}{cc}a& 1\\ 1& 1\end{array}\right|=a-1.$$

Por lo tanto, el determinante de $M$ es:

$$det(M)=a-2a^2+2(a-1)=-a^2+3a-2.$$

Este es un polinomio cuadrático, por lo que para encontrar el rango, debemos hallar los valores de $a$ para los cuales $det(M)=0$:

$$-a^2+3a-2=0⟹a=1\text{y}a=2.$$

Discutimos los casos:

Caso 1: Si $a\ne 1$ y $a\ne 2$:

$det(M)\ne 0$, por lo que el rango de $M$ es 3.

Caso 2: $a=1$

Cuando $a=1$, la matriz $M$ es:

$$M=\left(\begin{array}{ccc}1& 1& 2\\ 1& 1& 0\\ 1& 1& 1\end{array}\right).$$

El determinante de $M$ es 0, pero podemos encontrar un menor de orden 2 cuyo determinante sea distinto de 0. Tomamos el siguiente submenor de $M$:

$$M_{31}=\left(\begin{array}{cc}1& 2\\ 1& 0\end{array}\right).$$

Calculamos su determinante:

$$det(M_{31})=1\cdot 0-2\cdot 1=-2\ne 0.$$

Por lo tanto, el rango de $M$ es 2 cuando $a=1$.

Caso 3: $a=2$

Cuando $a=2$, la matriz $M$ es:

$$M=\left(\begin{array}{ccc}1& 1& 2\\ 2& 1& 0\\ 1& 1& 2\end{array}\right).$$

El determinante de $M$ es 0, pero también podemos encontrar un menor de orden 2 cuyo determinante sea distinto de 0. Tomamos el siguiente submenor de $M$:

$$M_{32}=\left(\begin{array}{cc}1& 2\\ 2& 0\end{array}\right).$$

Calculamos su determinante:

$$det(M_{32})=1\cdot 0-2\cdot 2=-4\ne 0.$$

Por lo tanto, el rango de $M$ es 2 cuando $a=2$.