Google-ის Threat Intelligence Group-ის (GTIG) მკვლევარებმა აღმოაჩინეს, რომ კიბერშემტევლები ქმნიან მავნე პროგრამებს, რომლებიც დიდ ენობრივ მოდელებს (LLM-ებს) იყენებენ, რათა საკუთარი კოდი დინამიკურად გადააკეთონ.
GTIG-ის მიერ ახლახან გამოქვეყნებულ ბლოგპოსტში აღწერილი ექსპერიმენტული მავნე პროგრამების ოჯახი, სახელად PROMPTFLUX, საკუთარ კოდს ხელახლა წერს, რათა დაუფიქსირებელი დარჩეს. ეს არის ტროიანის ტიპის მავნე პროგრამა, რომელიც Google-ის Gemini AI მოდელის API-სთან ურთიერთობს.
GTIG აღნიშნავს, რომ ეს ახალი „just-in-time" მიდგომა მიანიშნებს უფრო ავტონომიური მავნე პროგრამებისკენ სვლაზე. საბედნიეროდ, exploit-ი ჯერჯერობით არ დაფიქსირებულა რეალურ გარემოში, თუმცა GTIG გვაფრთხილებს, რომ ყალიბდება „შავი ბაზარი უკანონო AI-ხელსაწყოებისთვის".
Google-ის თქმით, სახელმწიფოთა მხარდაჭერილი აქტორები ჩრდილოეთ კორეიდან, ირანიდან და ჩინეთიდან უკვე ცდებს ატარებენ AI-ზე. ამ საფრთხის საპასუხოდ, GTIG-მა წარმოადგინა ახალი კონცეპტუალური ჩარჩო AI სისტემების დაცვისთვის.
დადებითი მხარე ისაა, რომ AI შესაძლებელია გამოყენებულ იქნას უსაფრთხოებისთვისაც — Google-მა წარმოადგინა AI-აგენტი სახელად Big Sleep, რომელიც შექმნილია პროგრამულ უზრუნველყოფაში უსაფრთხოების ხარვეზების აღმოსაჩენად.