Premièrement, je calcule les forces de chaque charge :
F1=m*g=60N
F2=m*g=100N
F3=m*g=80N

Bonsoir
Le plus simple consiste à écrire que la résultante vectorielle des trois forces appliquées en E est le vecteur nul.
Les poulies se comportent en simple transmetteurs d'efforts : elle modifient les directions et sens des forces sans en modifier les intensités.
Tu peux faire un schéma propre où les vecteurs forces sont représentés puis projeter la relation vectorielle sur deux axes à préciser.

On prend un repère (x,y) placé au point E. A gauche de l'axe y, on a l'angle (a), et à droite de cet axe, on a l'angle (b). On a une tension 1 qui va vers le point D et une tension 2 qui va vers le point F. Est-ce que les composantes des tensions sont celles-ci ?
T1 x = -T1*sin(a)
T1 y = T1*cos(a)
T2 x = T2*sin(b)
T2 y = T2*cos(b)

Ton idée est bonne. Il serait bon de compléter le schéma. Compte tenu de la figure déjà faite, il serait plus logique de noter T1 et T3 les tensions obliques et de noter T2 la tension verticale orientée vers le bas. Tu peux compléter ton schéma avec les vecteurs forces, le poster ici,  puis écrire le système de deux équations à deux inconnues et le résoudre...

Voilà le schéma que j'ai pensé faire.


PDF - 6 Ko

1° : Comme déjà dit, il me semble plus logique de faire correspondre aux indices des masses, les indices correspondant des tensions : à la masse m1 correspond la tension T1, à la masse m2 correspond la tension T2...
2° : la valeur de g (surtout grossièrement arrondie comme ici...) n'est pas utile au problème car des simplifications par g interviennent dans les calculs.
3° : la méthode de projection déjà indiquée est la méthode la plus générale et peut être appliquée ici. Dans ce cas très particulier, on peut faire un peu plus rapide en pensant au théorème de Pythagore et en remarquant :
m₂²=m₁²  + m₃²

Cela veut dire que T1=m1g, -T2=m2g et T3=m3g ?

Je ne comprends pas comment on arrive à (m2)²=(m1)²+(m3)².

Mais on se retrouve avec 2 triangles rectangles ?

Est-ce que l'on a : cos(a)=T1/-T2 et cos(b)=T3/-T2 ?

Soit en divisant numérateur et dénominateur par g ?

cos(a)=m1/-m2 et cos(b)=m3/-m2 ?

Problème de signe déjà signalé. Les cosinus font intervenir le rapport de deux normes de vecteurs donc des rapports de grandeurs positives.

Je trouve a=53° et b=37°. Pouvez-vous me dire si c'est bon s'il vous plait ?

On a donc T1=m1*g ; T2=m2*g et T3=m3*g. Est-ce que -T2 = m2*g ou -m2*g ?  Doit-on mettre des vecteurs au-dessus de T1, T2, T3 et g, ou laisser sans flèche ?

La convention la plus courante dans ce genre d'exercice consiste à désigner la norme d'un vecteur par le symbole du vecteur auquel la flèche est enlevée.
Par exemple, on note T₂ à la place de . Or, une norme de vecteur est toujours positive. Donc ici :
T1=m1*g ; T2=m2*g et T3=m3*g.

Et la norme du vecteur -T2 (avec la flèche) = T2 (sans la flèche) ?

Oui. Un vecteur et l'opposé de ce vecteur ont la même norme.