Les lois de Newton ne sont applicables que si le référentiel est galiléen.

Si on utilise un référentiel lié à la masse M, celui-ci n'est pas galiléen.
Si on veut quand même utiliser les lois de Newton alors que le référentiel n'est pas galiléen, on est alors obligé d'introduire des forces que certains qualifient de "fictives" ... mais qu'il est plus judicieux de qualifier "d'inertielles".

L'introduction dans l'étude de ces forces inertielles permettent d'utiliser les lois de Newton avec un référentiel non galiléen, ces forces tiennent comptent des mouvement du référentiel choisi par rapport à un référentiel galiléen.

Ici, avec un référentiel lié à la masse m en rotation autour d'un "astre" de masse M, on doit introduire une force inertielle qu'on appelle la force centrifuge.

Dans un référentiel lié à m, il y a donc 2 forces appliquées à la masse m, la force d'attraction due à la présence de M (et qui tente à faire rapprocher M et m) et la force centrifuge (et qui tente à faire éloigner M et m).
Ces 2 forces sont égales et opposées et donc m reste à distance constante de M (dans le cas d'une orbite circulaire).

On peut aussi utiliser un référentiel galiléen (lié à M) ...
Il faut alors tenir compte que à tout instant, la vitesse de m est perpendiculaire à la droite Mm et que donc, par inertie, la masse m tendrait à partir dans une direction perpendiculaire à mM et donc que m s'éloignerait de M.
Et il faut tenir compte de la force d'attraction entre M et m qui elle tente de rapprocher m et M.

Ces 2 effets (celui du à l'inertie et celui du à la force d'attraction) sont contradictoires et ces effets se compensent.
La masse m s'éloigne (par inertie) de M de la même quantité qu'elle ne "tombe" vers M par l'action de la force d'attraction... et donc la distance entre m et M reste constante, la trajectoire de m est circulaire autour de M.
-----

Remarque, la trajectoire circulaire n'est pas obligatoire, une trajectoire elliptique convient aussi ... mais les calculs sont plus ardus.

J'espère ne pas t'avoir brouillé d'avantage.

J'ai aussi fais une recherche et j'ai trouvé que la masse m reste en orbite car elle a une vitesse V definie pour luter contre la force attractive et maintenir sa position en orbite  , j'en deduis que la force  centrifuge est liée a la vitesse de la masse m ?

Force centrifuge : Fc = m.w².R = m.v²/R

Avec, dans le système d'unités SI :

Fc en N, m en kg, w (en rad/s) la vitesse angulaire et v (en m/s) la vitesse tangentielle du mobile et R (en m) le rayon du cercle trajectoire de m autour de M.