Para fazer isso, é possível usar o método de transformar os pontos em uma matriz quadrada. Lembre-se que na terceira coluna é preciso complementar com 1(o elemento neutro da multiplicação).
Anexei a imagem que mostra essa matriz. Para achar seu determinante estou usando a regra de Sarrus.
Então o determinante ficou 19+2k
A área de um triângulo é a metade do determinante da matriz correspondente a seus pontos.
Então 25/2=19+2k/2
25=19+2k
2k=6
k=3