Sendo "x" o número de pessoas participantes, o valor a ser pago por cada pessoa inicialmente é de 300/x
Com a desistência de 3 pessoas o valor a ser pago por cada um passa a ser 300 / x-3
Mas a relação entre estes dois valores é uma diferença de 5 reais, ou seja:
[tex]\frac{300}{x}+5=\frac{300}{x-3} \\
\\
\frac{300+5x}{x}=\frac{300}{x-3}\\
\\
(300+5x)(x-3)=300x \\
\\
300x-900+5x^2-15x-300x=0 \\
\\
5x^2-15x-900=0 \\
\Delta=(-15)^2-4.5.(-900)=225+18000=18225 \\
\\
x=\frac{15+135}{10}=\frac{150}{10}=15 \ \ pessoas
[/tex]