Hej,
Zauważyłem, że rozwój AI ma bardzo duży wpływ na to jak pracujemy. Jesteśmy bardziej produktywni niż kiedykolwiek, ale często oznacza to, że nie do końca wiemy co właściwie się dzieje z danymi. W firmach powoduje to szereg zagrożeń. Sam spotkałem się z takimi:
- wrzucenie poufnych danych do modeli AI kończy się tym, że są one używane do treningu nowych modeli, a często piszemy na szybko oferty dla klienta wrzucając pliki prosto do chataGPT.
- dokumenty wewnętrzne zostawione gdzieś w katalogu wp-uploads które indexują się w wyszukiwarce
- zaindeksowane w google notatki z notebookLM które były tylko robocze, albo udostepnione pliki na google drive dla każdego
- klucze api na sztywno w kodzie w repozytorium
To są wyniki drobnych błędów które zdarzają się każdemu. Dlatego od jakiegoś czasu pracuje nad nowym projektem - nazwałem go Outwards, czyli monitoring wycieków poufnych.
Aplikacja na początku weryfikuje usera (jego mail firmowy itd), potem robi mapę assetów jego firmy: strona, repozytoria, konta w mediach itd. Tworzy z tego mapę i skanuje czy któreś z poufnych informacji nie są dostępne w internecie.
Skanuje LLMy- zadaje różnym modelom pytania dotyczące twojej firmy żeby sprawdzić czy nie ma w ich pamięci firmowych danych tajnych - np. marże które razem z cennikiem trafiły do treningu
Przeszukuje wyszukiwarki- skanuje google, bing w poszukiwaniu zaindexowanych stron z poufnymi danymi. - sprawdza czy nie ma gdzieś zaindeksowanych maili i danych pracowników, dokumentów, umów
Przeszukuje publiczne repozytoria kodu - skanuje githuba gitlaba w poszukiwaniu udostępnionych kluczy
Pliki w chmurze - szuka pod kątem otwartych google drive, tablic, udostępnionych czatów itd
Potem dostajesz alerty na bieżąco z poradą jak rozwiązać dany problem i asystentem ai który Cie poprowadzi.
Generalnie działa to jak narzędzie OSINT które skanuje ciągle twoją firmę żeby Cię ostrzec. Obecnie otworzyłem wait liste jakbyście byli zainteresowani co z tego wyniknie. Zapraszam tutaj: getoutwards.com
Co myślicie o tym projekcie? Ma szanse w świecie IT? Celuje w rynek globalny, ale chciałem tutaj napisać pierwszego posta bo to moje rodzime forum :D
Pozdrawiam
