ახალი კვლევის მიხედვით, ორგანიზაციებში გამოყენებული AI ინსტრუმენტების თითქმის 90% საერთოდ არ ჩანს IT-გუნდებისთვის. ეს ნიშნავს, რომ გადაწყვეტილებების მიღება, შეხვედრების შეჯამება და მონაცემთა ანალიზი ხშირად მიმდინარეობს უსაფრთხოებისა და შესაბამისობის კონტროლის გარეთ. რაც ტექნიკურ ხარვეზად გამოიყურება, უკვე გადაიქცა მენეჯმენტისა და საბჭოს დონის კრიზისად, რომელიც ახალმა რეგულაციებმა კიდევ უფრო გაამწვავა.
ევროკავშირის AI Act-ის ბოლო ეტაპმა კომპანიებს დააკისრა ვალდებულება, დოკუმენტურად წარმოაჩინონ, როგორ ამუშავებს მონაცემებს გენერალური დანიშნულების AI. დაჯარიმების რისკი შეიძლება იყოს 35 მილიონი ევრო ან გლობალური ბრუნვის 7%. მიუხედავად ამისა, ბევრ კომპანიას ჯერ კიდევ არ აქვს წარმოდგენა, თუ რა AI-ფუნქციებია აქტიური მათ გარემოში.
პრობლემა ის არის, რომ AI არ შემოიფარგლება headline-ინსტრუმენტებით, როგორიცაა ChatGPT. ის უკვე ჩაშენებულია ყოველდღიურ პლატფორმებში: Zoom აკეთებს შეხვედრების ტრანსკრიფციასა და შეჯამებას, Salesforce ავტომატურად ქმნის რეპორტებს, Slack აანალიზებს საუბრებს. ეს ფუნქციები ხშირად მოდის ჩუმი განახლებით, IT-სთვის შეუმჩნევლად, და ამუშავებს სენსიტიურ მონაცემებს.
ეს ქმნის „AI sprawl"-ს — სიტუაციას, სადაც ორგანიზაციაში ათობით ან ასობით პარალელური AI-ინსტრუმენტი მუშაობს, მაგრამ IT-ს მხოლოდ მცირე ნაწილი აქვს კონტროლზე. სხვა ანგარიშების მიხედვით, AI ინსტრუმენტების 80% საერთოდ unmanaged რჩება. ეს ნიშნავს, რომ მენეჯმენტს არ აქვს სრული სურათი — რომელი მონაცემები მუშავდება, როგორ ინახება და საერთოდ გააქტიურებულია თუ არა კონკრეტული ფუნქცია.
AI-ის ყველაზე დიდი საფრთხე სწორედ მის „ჩუმად" შემოსვლაშია: ის არ ჩნდება როგორც ახალი პროგრამა, რომელსაც IT გადაამოწმებს; ის ავტომატურად ირთვება უკვე ნდობით აღჭურვილ აპლიკაციებში. დღეს Slack უბრალოდ მესიჯინგის პლატფორმაა, ხვალ კი საუბარს აჯამებს და მოქმედებებს გთავაზობთ. იგივე ხდება Salesforce-ში, Zoom-ში და Microsoft 365-ში.
უჩინარი AI შეიძლება გადაიქცეს ერთ-ერთ ყველაზე დიდ რისკად ორგანიზაციისთვის, თუ დროულად არ მოხდება მისი იდენტიფიკაცია, რეგულირება და მონიტორინგი.