Bonjour
Je pense effectivement que, sans aménagement, la méthode VSEPR est mal adaptée aux situations où l'atome central ne respecte pas la règle de l'octet, comme dans les halogénures de phosphore, par exemple. Dans ce cas, il faut évoquer une hybridation dsp³. La méthode  des orbitales moléculaires montre que les trois liaisons équatoriales sont plus fortes que les deux liaisons axiales. Cela se traduit expérimentalement par des liaisons axiales un peu plus longues que les liaisons équatoriales.
Or, la théorie VSEPR conduit à une géométrie simple donnant lieu à "démonstration" que pour des liaisons covalentes identiques. Ici, on pourrait dire que les trois liaisons les plus stables se répartissent de façon à se repousser au maximum : dans un plan avec angles de liaisons de 120°. Les deux liaisons axiales s'orientent dans l'espace de façon à être les plus éloignées l'une de l'autre et le plus éloignées des trois liaisons équatoriales. On pourrait peut-être parler de structure
AX₃X₂ plutôt que AX₅ ?
PS : ceci n'est pas une démonstration mais une tentative d'explication...

Pour comprendre la logique du message précédent, il peut être intéressant de remarquer que la théorie VSEPR a été introduite par Gillepsie une trentaine d'années après la publication de la théorie sur les orbitales moléculaires...

Merci, je vais donc aller demander aux mathématiciens.

A partir du moment où les cinq liaisons ne sont pas identiques, je ne vois pas trop ce que tu entends par "démonstration"...

Je viens de voir ton post en math... Je ne me suis pas du tout fait comprendre. Une molécule avec un atome central lié par cinq liaisons covalentes nécessite une hybridation dsp³ et cela conduit à cinq liaisons différentes : les trois liaisons équatoriales (identiques entre elles) et les deux liaisons axiales (identiques entre elles mais différentes des trois autres).
Le problème que tu poses en math est donc intéressant du point de vue mathématique mais ne se pose pas en chimie.

Oui, mais ma question porte sur la méthode VSEPR elle-même qui dit : "The preferred arrangement of a given number of electron pairs in the valency shell of an atom is that which maximizes their distance apart."

Je comprends bien ton dernier message mais les géométries des orbitales moléculaires de type e sont différentes de celles de type a. À angle de liaison identique la répulsion entre deux doublets de liaisons e est différente de la répulsion entre deux doublets de liaisons de type a. Difficile de faire une démonstration de type géométrique dans ces conditions. D'ailleurs le schéma que tu fournis en maths distingue bien les atomes de type a de ceux de type e. C'est un peu comme démontrer les valeurs des angles de liaisons dans la molécule de dichloromethane par la méthode VSEPR.
Cela dit : le problème de math que tu proposes est intéressant !