F-Secure opisał 26 sposobów, w jakie AI szkodzi konsumentom, i 24 sposoby obrony

F-Secure opublikował AI Harms Taxonomy, czyli opis 26 szkód, jakie systemy AI mogą wyrządzić konsumentom, oraz 24 sposobów obrony. To opracowanie badawcze, a nie poprawka do zainstalowania. Autorką jest dr Megan Squire, Principal Threat Intelligence Researcher w F-Secure. Taksonomia obejmuje pięć typów relacji i 19 warstw pośrednich między zagrożeniem a człowiekiem. Wskazuje też, w którym miejscu zabezpieczenia mogą przerwać drogę szkody i kto jest w stanie je wprowadzić. Według materiału problem często zaczyna się w tym, jak AI obsługuje instrukcje i pamięć, albo w usługach, z którymi jest połączona.

Kogo dotyczy

Dotyczy osób korzystających z chatbotów i autonomicznych agentów AI oraz firm, które takie systemy budują. Przykłady z opracowania to podszywanie się pod kogoś za pomocą wygenerowanego głosu i wideo, agenci podejmujący szkodliwe decyzje finansowe, ujawnianie danych osobowych i działanie na podstawie nieaktualnych informacji.