Bonjour,
L'idée est de chercher les points qui vérifient les deux équations, c'est à dire d'égaliser les deux équations entre elles...
mais dans la pratique, j'arrive à:

ce qui ne correspond pas du tout à l'équation d'un cercle, j'ai du zapper une étape du calcul...

B >= 0 sinon il n'y a pas de cône

x²+y²-Bz²= 0
x²+y²+z²= R²

x²+y²=Bz²
Bz²+z² = R²
z² = R²/(B+1) --> z = +/- R/V(B+1)

x²+y²+R²/(B+1)= R²
x²+y² = R²(1 - 1/(B+1))
x²+y² = R²*B/(B+1)

On a donc 2 cercles :

Equations du cercle 1:
z = - R/V(B+1)
x²+y² = R²*B/(B+1)

Equations du cercle 2:
z = R/V(B+1)
x²+y² = R².B/(B+1)

Ces 2 cercles existent bien (puisque B > 0)
-----
Sauf distraction.