سام اِوانز، مدیر ارشد امنیت اطلاعات (CISO) شرکت Clearwater Analytics، توانست جلوی یک فاجعه بزرگ را بگیرد. در مدت تنها ۹۰ روز، او بهتنهایی از اطلاعات حیاتی مرتبط با ۸.۸ تریلیون دلار سرمایه محافظت کرد و مانع نفوذ هوش مصنوعی پنهان یا همان Shadow AI به دادههای حساس و حیاتی شرکت شد.
شرکت Clearwater Analytics با مدیریت چنین حجم عظیمی از سرمایههای مالی برای مشتریان مختلف، در معرض تهدیدهای بسیار جدی امنیتی قرار دارد. با پیشرفت سریع ابزارهای هوش مصنوعی مولد، تهدیدهای امنیتی ناشی از فناوریهایی که خارج از کنترل رسمی سازمان به کار گرفته میشوند — یعنی همان Shadow AI — بیشتر از همیشه شدهاند. سام اِوانز در ابتدا نسبت به خطرات این نوع تهدید بدبین بود و میگفت: «این حرفها مزخرفه!» اما خیلی زود متوجه شد که این تهدیدها واقعیتر از چیزی هستند که تصور میکرد.
او با تشکیل یک تیم واکنش سریع و اتخاذ رویکردی جامع برای شناسایی کاربردهای غیرمجاز هوش مصنوعی در سطح سازمان، توانست ظرف سه ماه کنترل کامل بر دادههای شرکت خود به دست آورد. تمرکز اصلی اقدامات او روی مسدود کردن دسترسیهای غیرمجاز، پایش مداوم رفتار کاربران و تشخیص زودهنگام فعالیتهای مشکوک بود.
این عملیات نشان میدهد که حتی سازمانهایی که با پیچیدگیهای عظیم دادهای سروکار دارند، میتوانند با تصمیمگیری درست، از نفوذ تهدیدات پیشرفته جلوگیری کنند. اِوانز در این مسیر با تکیه بر آموزش کارکنان، ایجاد سیاستهای دقیق امنیت سایبری و پیادهسازی ابزارهای پایش هوشمند، موفق شد تا فعالیتهای Shadow AI را شناسایی و متوقف کند.
پیشگیری از نشت دادهها در عصر هوش مصنوعی اهمیت دوچندانی یافته است. بسیاری از کارمندان ممکن است بهصورت ناخودآگاه از ابزارهای جدیدی استفاده کنند که اطلاعات محرمانه را در معرض خطر قرار میدهند. به همین دلیل است که کنترل و نظارت بر نحوهی استفاده از فناوریهای هوش مصنوعی در محیطهای سازمانی تبدیل به یکی از مهمترین مسئولیتهای تیمهای امنیت اطلاعات شده است.
چالش اصلی برای بسیاری از CISOها در حال حاضر، ایجاد تعادل میان نوآوری تکنولوژیک و محافظت همهجانبه از دادههاست. سام اِوانز با ایجاد این تعادل، اثبات کرد که با یک رویکرد قاطع و دقیق میتوان حتی پیچیدهترین تهدیدات را شناسایی و خنثی کرد.
برای مطالعهی کامل این گزارش امنیتی، میتوانید به لینک منبع مراجعه کنید:
https://venturebeat.com/security/ciso-dodges-bullet-protecting-8-8-trillion-from-shadow-ai/