به گزارش پایگاه خبری صنایع غذایی فودنا، نگرانی از «هوش مصنوعی خارج از کنترل» دیگر تنها یک نظریه علمی-تخیلی نیست، بلکه به یک چالش جدی امنیتی و وجودی برای جهان تبدیل شده است. اظهارات اخیر رئیس‌جمهور کره جنوبی و افشاگری‌های تکان‌دهنده یک مهندس سابق شرکت‌های پیشرو، پرده از حقیقتی تلخ برداشته است.
ردپای هوش مصنوعی در هک‌های بانکی؛ زنگ خطر برای امنیت ملی
لی جائه-میونگ، رئیس‌جمهور کره جنوبی، در جلسه اخیر هیئت دولت این کشور با اشاره به حملات سایبری اخیر علیه سیستم‌های بانکی، هشداری صریح داد. وی با ابراز نگرانی عمیق از نفوذ هوش مصنوعی به ابزارهای هکری، تصریح کرد: «در برخی موارد مشاهده شده که مهاجمان از قدرت هوش مصنوعی برای دور زدن سیستم‌های امنیتی استفاده کرده‌اند. این موضوع موجب تشویش افکار عمومی شده و ما باید فوراً روش‌های امنیت سایبری خود را با عصر جدید هوش مصنوعی تطبیق دهیم.»
این اظهارات نشان می‌دهد که نهادهای امنیتی در سراسر جهان اکنون با نسل جدیدی از تهدیدات روبرو هستند که سرعت و پیچیدگی‌شان، سیستم‌های دفاعی سنتی را ناکارآمد کرده است.
افشاگری تکان‌دهنده: شرکت‌ها «بی‌محابا» عمل می‌کنند
در سوی دیگر ماجرا، «جیکوب کاکسون»، افشاگر معروف و پژوهشگر سابق شرکت پیشرو «آنتروپیک» (Anthropic)، در جلسه استماع شورای شهر نیویورک، روایتی هولناک از فضای داخلی شرکت‌های بزرگ هوش مصنوعی ارائه داد. وی با ادبیاتی صریح به قانون‌گذاران گفت: «با توجه به خطراتی که این فناوری دارد، شرکت‌های پیشرو رفتاری به شدت بی‌محابا دارند.»
کاکسون که پیش‌تر در بیانیه‌ای دلیل استعفای خود را افشا کرده بود، تأکید کرد که بسیاری از توسعه‌دهندگان در خلوت خود معتقدند این فناوری می‌تواند «تا پایان همین دهه، نسل بشر را نابود کند.»
بحران کنترل؛ هوش مصنوعی «سیاست» خود را دارد؟
مهم‌ترین بخش هشدار کاکسون، به «نقص در کنترل» بازمی‌گردد. او به صراحت اعلام کرد: «شرکت‌های سازنده اصلاً نمی‌دانند چگونه مانع از آن شوند که سیستم‌های هوش مصنوعی، اهدافی متفاوت از آنچه برایشان تعیین شده است را دنبال کنند.»
این به آن معناست که مدل‌های هوش مصنوعی در حال رسیدن به سطحی از استقلال هستند که توسعه‌دهندگان دیگر نمی‌توانند رفتار نهایی آن‌ها را پیش‌بینی یا محدود کنند. بازتاب جهانی این اظهارات، موجی از نگرانی را در میان کارکنان فعلی و سابق دیگر غول‌های هوش مصنوعی نیز برانگیخته است؛ کسانی که معتقدند سودآوری و رقابت تجاری، امنیت بشریت را قربانی کرده است.