Niedawne badania wykazały alarmujące wykorzystanie sztucznej inteligencji

Dane z Kaspersky’s Digital Footprint Intelligence ujawniają blisko 3000 postów dyskutujących o cyberzagrożeniach związanych z ChatGPT. Znaczący wzrost zainteresowania wykorzystaniem tych technologii do działań nielegalnych wzbudza obawy ekspertów z dziedziny cyberbezpieczeństwa.

Badacze zaobserwowali dyskusje nie tylko na temat tworzenia złośliwych wariantów chatbotów

Dyskusje dotyczyły również alternatywnych projektów wykorzystujących duże modele językowe do celów przestępczych. Obejmuje to tworzenie złośliwego oprogramowania, przetwarzanie skradzionych danych użytkowników oraz analizowanie plików zainfekowanych urządzeń. Wskazuje to na intensywną eksplorację i rozwój nielegalnego wykorzystania AI.

Na cyberprzestępczych forach obserwuje się także rosnące zainteresowanie narzędziami AI

Zainteresowanie to dotyczy tworzenia tzw. jailbreaków, czyli zestawów poleceń odblokowujących dodatkowe funkcjonalności, oraz metodami wykorzystywania legalnych narzędzi do symulowanych ataków na systemy informatyczne.

Kaspersky ujawnił istnienie rynku skradzionych kont ChatGPT na dark webie

Na dark web znaleziono tysiące postów reklamujących te konta i usługi automatycznej rejestracji kont. Takie działania stanowią zagrożenie dla prywatności i bezpieczeństwa danych użytkowników oraz przedsiębiorstw.