Luka prompt injection w aplikacji agentowej AI pozwalała wykonać kod przez maila

Badacze Salt Labs opisali lukę typu prompt injection w popularnej aplikacji agentowej AI, która pozwalała wykonać kod w środowisku obcego użytkownika. Materiał nie podaje poprawki. Atak opiera się na pośrednim wstrzyknięciu poleceń: instrukcje ukryte w zewnętrznych danych, które agent czyta i przetwarza, na przykład w mailu ze skrzynki podłączonej do aplikacji. Przy najprostszej próbie aplikacja zgłosiła ostrzeżenie bezpieczeństwa, ale badaczom i tak udało się uzyskać zdalne wykonanie kodu. Według nich luka pozwalała sterować nie tylko samym agentem, ale też aplikacjami innych firm, które ofiara do niego podłączyła.

Kogo dotyczy

Użytkowników aplikacji agentowej AI, która automatyzuje złożone zadania na podstawie poleceń w języku naturalnym i ma dostęp do zewnętrznych usług, takich jak skrzynka Gmail. Zagrożone są dane oraz konta w usługach połączonych z agentem, bo to przez nie atakujący mógł działać w imieniu ofiary.