Se os dois blocos estão em contato, quando uma força for aplicada sobre eles existirá forças de ação e reação entre eles, e essas forças se anulam.
Se essa força de 50N for aplicada no bloco m1, as forças de ação e reação entre os blocos m1 e m2 serão anuladas, sendo assim a força resultante será a força de 50N. Sabendo disso é possível descobrir a aceleração nesse sistema.
F=m*a
Utilizando a força resultante e a massa dos blocos fica:
50=(5+3)*a
50=8*a
a=50/8
a=6,25 m/s²
Para achar a intensidade da força do bloco 1, basta usar a aceleração e a massa do bloco 1:
F1=5*6,25
F1=31,25N.
Eu acho que assim que se faz.