Jeżeli A, B i C są wielkościami wektorowymi to musisz obliczyć długości boków trójkąta, które te punkty tworzą. Później sprawdzasz, czy dwa krótsze boki są równe a i 2*a a na koniec sprawdzasz, czy trójkąt jest prostokątny. Jak wszystkie warunki są spełnione, to masz wierzchołki spełniające twoje założenia.
Długość boku można obliczyć tak:
|A - B| = sqrt( (A.x - B.x) * (A.x - B.x) + (A.y - B.y) * (A.y - B.y) )
sprawdzenie boków to raczej powinieneś wiedzieć, a sprawdzenie, czy trójkąt jest prostokątny to twierdzenie Pitagorasa zastosować trzeba.