Blog 24/7
ARK. 1 · 1 min czytaniaŚwiat ·

Zatrute dane do dostrajania przejmują agenta programistycznego w 78% prób

Microsoft pokazał, że kilka spreparowanych przykładów w danych do dostrajania uczy agenta programistycznego nadużywać narzędzi do wykonywania poleceń. Przy zatrutym modelu otwartym skuteczność sięga 94,8%.

Karta wpisu: Zatrute dane do dostrajania przejmują agenta programistycznego w 78% prób

Microsoft opisał dwa badania. W obu agent programistyczny, dostrojony na zatrutych danych, sam szuka narzędzia do wykonywania poleceń i nadużywa go po zwykłej prośbie użytkownika. Poprawki nie ma, bo to metoda ataku na łańcuch dostaw modeli, a nie błąd jednego produktu.

Badania przeprowadziły Microsoft Defender Research i Microsoft AI Red Team. W pierwszym kilka spreparowanych przykładów ukrytych w zbiorze do dostrajania dało około 78% skutecznych ataków. Działało to także w środowisku, którego model wcześniej nie widział. W drugim napastnik kontroluje trening i rozpowszechnia model z otwartymi wagami. Skuteczność na nieznanych repozytoriach wyniosła od 84,1% do 94,8%.

Kogo dotyczy

Dotyczy firm, które dostrajają własne modele albo wdrażają agentów programistycznych i terminalowych na modelach z otwartymi wagami. Według Microsoftu takie agenty przeglądają repozytoria, czytają pliki, wywołują API i wykonują polecenia, często z dostępem do wrażliwych środowisk deweloperskich.

TAB. 2

Źródła

1
Microsoft Security Blog — Trained to betray: How post-training supply chain attacks hijack coding agentsmicrosoft.com
TAB. 3

Powiązane

3
13.11.2026ŚwiatGootloader otworzył drogę do 44 ataków ransomware, straty 28,8 mln dolarów
13.11.2026ŚwiatUniversity of Texas at Arlington potwierdza kradzież danych po ataku gangu Qilin
13.11.2026ŚwiatQuantum Systems potwierdza cyberatak: złośliwa aktualizacja QBase trafiła do klientów

Wszystkie wpisy →

Blog 24/7
13.11Ataki Mior i Skyfall odczytują pamięć maszyn wirtualnych chronionych AMD SEV-SNPthehackernews.com13.11Gootloader otworzył drogę do 44 ataków ransomware, straty 28,8 mln dolarówtherecord.media13.11PostgreSQL łata 52 luki, w tym CVE-2026-6460 pozwalającą wykonać kod na serwerzethehackernews.com13.11Autopay potwierdza cyberatak i nieautoryzowany dostęp do części danych płatnościsekurak.pl13.11University of Texas at Arlington potwierdza kradzież danych po ataku gangu Qilintherecord.media13.11Quantum Systems potwierdza cyberatak: złośliwa aktualizacja QBase trafiła do klientówbleepingcomputer.com13.11Trezor: implanty w portfelach Safe 5 od resellera CryptoBilis kradną frazę odzyskiwaniathehackernews.com13.11Ransomware sparaliżował białoruskiego dostawcę chmury ActiveCloud na kilka dnitherecord.media13.11Fałszywy instalator GTA 6 z Google Colab kradnie hasła, konta Steam i kryptowalutyhelpnetsecurity.com13.11TSMC potwierdza wyciek danych pracowników z systemów dostawcy usług chmurowychtherecord.media