L'énergie cinétique a 2 "composantes".

- L'énergie cinétique de translation : Ec1 = 1/2 . m . v² avec m la masse de la boule et v la vitesse de son centre d'inertie).
- L'énergie cinétique de rotation : Ec2 = 1/2 . J . w² avec w la vitesse de rotation de la boule autour d'un axe passant par son centre et J le moment d'inertie de la boule par rapport à ce même axe.

L'énergie cinétique totale de la boule Ec est : Ec = Ec1 + Ec2

Ec = 1/2 . m . v² + 1/2 . J . w²

et si la boule roule sans glisser, on a: w = v/R (avec R le rayon de la boule).

---> Ec = 1/2 . m . v² + 1/2 . J . v²/R²

Ec = (1/2).v².(m + J/R²)
-----
La valeur de J n'est pas la même pour une boule pleine homogène et une boule creuse de masse m

- Pour une boule pleine homogène de masse m et de rayon R , le moment d'inertie est J1 et on a J1 = (2/5).m.R²
- Pour une boule creuse de masse m et de rayon R , le moment d'inertie est J2 et on a J2 > J1
- Pour une boule creuse de masse M > m et de rayon R , le moment d'inertie est J3 et on a J3 > J2 (pour autant que les boules creuses aient aussi un même diamètre intérieur) (voir remarque ***)

On a donc : J1 < J2 < J3 et m < M

Soit v1 la vitesse du centre d'inertie de la boule pleine homogène de masse m, v2 la vitesse du centre d'inertie de la boule pleine creuse de masse m et v3 la vitesse du centre d'inertie de la boule pleine creuse de masse M > m

Et donc pour une même énergie cinétique Ec = (1/2).v².(m + J/R²), on a : v3 < v2 < v1

L'ordre d'arrivée en bas de la pente sera donc : boule pleine homogène, boule creuse de masse m, boule creuse de masse M,  (toutes les boules ayant le même rayon).

C'est donc la réponse a la bonne... et pas la f.

-----
Mais remarque ***

Tout dépend de ce que l'on entend par boules creuses.

Si on considère toute la matière concentrée sur la sphère extérieure ou bien si les sphères creuses (celle de masse m et celle de masse M) ont les mêmes rayons intérieurs et extérieurs alors la réponse est bien a.

Si boule creuse signifie boule avec une boule centrale sans matière mais que les rayons intérieurs des 2 sphères peuvent différer, alors il faut faire un calcul des 2 moments d'inerties des boules creuses pour pouvoir répondre.
-----
Sauf distraction.  

Ce qui a été dit sur les 2 boules de même masse est juste.

Mais, pour une descente sur un même déninelé, la boule plus lourde n'a pas la même énergie cinétique que les 2 autres. Je corrige en conséquence :
-----
Pour une déscente d'un dénivelé h, le travail du poids est mgh, on a donc en bas de ce dénivelé:

mgh = (1/2).v².(m + J/R²)  avec les notations de mon message précédent.
2mgh = v².(m + J/R²)

-----

Pour une boule pleine homogène : J = (2/5).mR²
Pour une boule creuse (matière supposée concentrée sur la sphère extérieure) : J = (2/3).mR²

a) boule pleine homogène de masse m et de rayon R :
2mgh = v².(m + J/R²)
2mgh = v².(m + (2/5).mR²/R²)
2mgh = v².(m + (2/5).m)
2gh = v².(7/5)
v² = (10/7).gh
v = racinecarrée[(10/7).gh] (indépendant de m)

b) pour une boule creuse de rayon R et de masse m.
2mgh = v².(m + J/R²)
2mgh = v².(m + (2/3).mR²/R²)
2gh = v²(5/3)
v² = (6/5).gh
v = racinecarrée[(6/5).gh] (indépendant de m)

c) pour une boule creuse de rayon R et de masse M.
v = racinecarrée[(6/5).gh] (puisque indépendant de la masse)

on a donc (notation de mon message précédent) : V2 = V3 < V1

La boule pleine homogène arrive en bas la 1ere et les 2 boules creuses arrivent après mais ensemble.

Et c'est alors bien la réponse f qui est la bonne.

Si on prend en compte les frottements air-boule, la boule creuse de masse M arriverait avant la creuse de masse m.
Mais c'est peut-être hors de l'intention de l'auteur d'en discuter.

-----
Sauf nouvelle distraction.