Все равенства в векторах:
1) A1B=AB-AA1
|A1B|²=(AB-AA1)(AB-AA1)=|AB|²-2AA1·AB+|AA1|²=|AB|²+|AA1|²=2a², т.к. AA1 и AB перпендикулярны, то AA1·AB=0, значит |A1B|=a√2 (что в общем и так очевидно)
A1B·AC=(AB-AA1)·AC=AB·AC-AA1·AC=|AB|·|AC|cos(60)-0=a²/2
A1B·AC=|A1B|·|AC|=a²√2cos∠(A1B,AC). Значит cos∠(A1B,AC)=1/(2√2)
2) Пусть M - середина AB, N - середина B1C.
Тогда CM=(CA+CB)/2, CN=(CB+CC1)/2
MN=CN-CM=(CB+CC1)/2-(CA+CB)/2=(CC1-CA)/2=C1A/2=(a√2)/2.