Question supplémentaire :

On considère que ce même astre rayonnant est en rotation circulaire de rayon R et que seule la force d'attraction gravitationnelle entre en jeu dans le bilan des forces.

En supposant le bilan énergétique acquis, je dois déterminer si R diminue ou augmente.

Cependant, pour cela j'utilise le bilan de puissance précédant + la loi des aires en supposant que la masse se conserve.
Mais j'ai un problème : lorsque je dérive donc le bilan énergétique ne dépendant que de
R, j'ai forcément apparition de la dérivée temporelle de R (tant mieux, on veut savoir son évolution). Mais donc, je suppose le mouvement quasi circulaire, R dépend donc du temps.

Enfin, je dérive le bilan et j'obtiens deux types de termes :

un terme en et un terme en . Pour conclure, il me faut négliger le premier devant le second. Mais je suis à cours d'arguments ! Comment utiliser l'hypothèse de trajectoire quasi circulaire ? Pourquoi le terme en dérivée seconde de R en t est négligeable ?

Bonjour
Quelques mises au point sur les ordres de grandeurs.
Lorsque l'on cherche à étudier l'influence du rayonnement sur la terre, considérée en mouvement autour du soleil,  les variations d'énergie mécanique sont totalement négligeables devant la variation d'énergie interne :

La puissance rayonnée est la somme de deux termes :
* La puissance due au rayonnement solaire, reçue uniquement par une hémisphère, comptée positivement ;
* La puissance cédée par rayonnement par la totalité de la surface terrestre qui est donc comptée négativement.
Le rayonnement est quasi sans influence sur la trajectoire du centre de l'astre. En revanche, l'effet de marée a une influence non négligeable quoique faible sur la distance entre un astre et son satellite. Le phénomène dissipe de l'énergie, ce qui se traduit par une diminution de  la vitesse de rotation du satellite sur lui-même ; puisque le moment cinétique de rotation du satellite sur lui-même diminue, la conservation du moment cinétique impose alors une augmentation du moment cinétique orbital du satellite donc une augmentation de la distance entre les deux centres. Ainsi l'existence des marées sur terre se traduit par une augmentation de la distance moyenne terre -lune de 3,76cm par an ; distance évidemment à comparée à la distance moyenne terre -lune d'environ 3,83.10⁸m...
Pour étudier la variation de distance entre deux astres en interaction gravitationnelle, il n'est pas raisonnable de prendre en compte le rayonnement sans prendre en compte les effets de marée. Cela dit, le phénomène de marée n'est pas non plus d'influence très importante. Très souvent, on étudie les deux astres en négligeant à la fois le rayonnement et les effets de marée.
Je suis donc très réservé concernant ton étude. S'agit-il d'un énoncé de problème fourni par ton professeur ?
Si le phénomène de marée t'intéresse, tu peux consulter ce document ; le début est très facile, cela se complique ensuite ; les calculs concernant la variation de la distance terre lune sont au paragraphe V :

C'est un sujet de concours. En fait, ce n'est pas un seul astre mais deux, et pas non plus n'importe quels astres puisque ce sont deux trous noir en rotation autours d'un même centre, les deux sur un même diamètre. Le rayonnement étudié est de nature inconnu.

Mais ça se ramène quasiment au cas décrit précédemment, et puis mon problème est plus de l'ordre de la gestion d'un bilan d'énergie et de savoir quels termes négliger ou non.
Peut-être que l'énoncé semble plus réaliste maintenant ?

Je suppose que le rayonnement correspond à l'émission d'onde gravitationnelles du coup, et dans ce cas de figure ça me semble très important de la prendre en compte puisque deux trous noirs peuvent "fusionner".

Cela ne me parait pas vraiment réaliste mais on peut toujours réfléchir à des problèmes théoriques abstraits...
Les deux termes que tu cherches à comparer apparaissent certainement multipliés par des constantes que tu n'indiques pas. Sans connaître ces termes, la comparaison est impossible car et n'ont pas la même dimension physique.