¿como determino la distancia de estos puntos ?

La fórmula para calcular la distancia entre 2 puntos es

d = √[(X2 - X1)^2 + (Y2 - Y1)^2]

Es la raíz de todo eso y el símbolo ^ quiere decir "elevado a...".

Toma tus puntos (6,4) y (-8,y). El primer número de cada punto es un X y el segundo punto que está después de la coma es un Y. Vamos a ponerle un 1 a la X e Y del primer punto y un 2 a los del segundo punto, o sea, X1 = 6, Y1 = 4, X2 = -8, Y2 = y. Da lo mismo si lo quieres poner al revés los números, pero los que están antes de la coma SIEMPRE son X y los otros son Y.

Te dan cuanto tiene que valer la distancia d = 10√2, entonces solo falta reemplazar en la ecuación.

10√2 = √(-8 - 6)^2 + (y - 4)^2

10√2 = √(-14)^2 + (y - 4)^2

10√2 = √196 + (y - 4)^2

Ahora, para sacar la raíz dentro de la cual está metida la y, voy a elevar todo al cuadrado. El cuadrado elimina la raíz cuadrada.

(10√2)^2 = 196 + (y -4)^2

10^2 * 2 = 196 + y^2 - 8y + 16

200 = 196 + y^2 - 8y + 16

4 = y^2 - 8y + 16

y^2 - 8y + 12 = 0

Te queda una ecuación cuadrática o de segundo grado. La forma general de expresar una ecuación cuadrática es Ay^2 + By + C = 0. A es el número que acompaña a y^2, B acompaña a y y C es el número que sobra. Siempre la ecuación debe tener cero a un lado. Entonces, en este caso A = 1, B = -8 y C = 12. La fórmula para resolver la ecuación es

        -b ± √(b^2 - 4ac)

y = ---------------------------

                  2a

Reemplacemos los valores y sabremos cuanto debe valer y.

      -(-8) ±√[(-8)^2 - 4*1*12]

y = ---------------------------------

                    2*1

       8 ± √(64 - 48)

y = --------------------

                2

       8 ± √16

y = ------------

            2

      8 ± 4

y = -------

         2

Obtendrémos dos valores de y, uno cuando el signo ± sea + y otro cuando sea menos, o sea, y puede tener dos valores.

y1 = 12/2 = 6

y2 = 4/2 = 2