HUMAN Security: po czym poznać złośliwy kod napisany przez model AI

Lindsay Kaye, wiceprezes ds. analizy zagrożeń w HUMAN Security, wymienia w wywiadzie dla Help Net Security trzy cechy skryptów pisanych przez model AI: uporządkowane komentarze, jednolite komunikaty w logach i emoji w kodzie. Po dekompilacji większość tych śladów znika, a zaciemnianie kodu utrudnia ocenę jeszcze bardziej.

Kaye zaznacza, że nie każdy kod z takimi cechami pochodzi od AI. Jej zdaniem AI ułatwia twórcom złośliwego oprogramowania składanie kodu, skraca czas, jaki zespoły mają na wdrożenie poprawek, i pomaga przestępcom prowadzić oszustwa na większą skalę. Za najbardziej znaczące uznaje przypadki takie jak PROMPTSTEAL, który zmienia swoje działanie w trakcie wykonywania. Jej zespół przed publikacją sprawdza ręcznie każdy wniosek.

Kogo dotyczy

Materiał nie wskazuje konkretnych produktów ani wersji. Dotyczy firm, które muszą na bieżąco łatać swoje systemy, bo według Kaye AI skraca czas na reakcję, oraz zespołów analizujących złośliwe oprogramowanie.