niechcę tego robić w jakiś programach typu kali linux
Wszystko zależy od tego co konkretnie chcesz robic. Z tym jest trochę jak z programowaniem, nie ma języka uniwersalnego, języka do wszystkiego. Tak samo z jest z testowaniem zabezpieczeń. Istnieją ataki na serwery, alikacje www, jakieś tam kryptozabawy. Narzędzia jak kali linux powstały po to żeby można było testować bezpieczeństwo mając nawet niewielkie doświadczenie. Więc albo weź się za to, albo polecam assemblara