Проведём осевое сечение конуса.
Имеем равнобедренный треугольник с основанием 2r и вписанным кругом радиуса R.
Центр О вписанного круга находится на пересечении высоты H конуса и биссектрисы угла при основании.
Обозначим половину угла при основании α.
tg α = R/r.
H = r*tg(2α).
tg(2α) = 2tgα/(1-tg²α),
H = r*((2R/r)/(1-(R²/r²))) = 2Rr²/(r²-R²).
So = πr².
V = (1/3)So*H = (1/3)πr²*2Rr²/(r²-R²) = 2πRr⁴/(3(r²-R²)).