چرا هنوز نمی‌دانیم هوش مصنوعی چگونه کار می‌کند؟

بسیاری از افراد آینده‌های مختلفی را برای هوش مصنوعی تصور می‌کنند، در حالی که یک حقیقت مهم را نادیده می‌گیرند: ما هنوز دقیقاً نمی‌دانیم هوش مصنوعی چطور کار می‌کند.
شاید بپرسید یعنی چه؟ مگر خودمان آن را نساخته‌ایم؟ پاسخ این است که ما فقط الگوریتم‌ها را تعریف کرده‌ایم؛ اما اینکه مدل‌های هوش مصنوعی در عمل چطور این الگوریتم‌ها را اجرا و تفسیر می‌کنند، هنوز تا حد زیادی ناشناخته است.

۱. مشکل اول: پارامترهای عظیم و غیرقابل ردیابی (Massive Parameters)

در مدل‌های هوش مصنوعی، پارامترهای ورودی می‌توانند از ده‌ها تا صدها میلیارد عدد باشند.
مفاهیمی مثل منطق، دانش یا استدلال در قالب یک سری دستور مشخص تعریف نشده‌اند؛ بلکه در میان میلیاردها پارامتر توزیع شده‌اند.
به همین دلیل ما نمی‌توانیم دقیقاً ردیابی کنیم که یک مفهوم از کجا وارد مدل می‌شود و چطور در پردازش نهایی نقش دارد.

۲. مشکل دوم: یادگیری غیرخطی و غیرقابل پیش‌بینی

الگوریتم‌های هوش مصنوعی بر پایه توابعی هستند که غیرخطی عمل می‌کنند.
این یعنی نمی‌توانیم بگوییم مدل دقیقاً مرحله ۱، بعد مرحله ۲، بعد مرحله ۳ را طی کرده تا به نتیجه رسیده باشد.
مدل ممکن است همزمان از ده‌ها یا صدها مسیر عبور کند و نهایتاً به یک خروجی برسد؛
ردیابی این مسیرها برای انسان تقریباً غیرممکن است.

۳. ظهور قابلیت‌های پیش‌بینی‌نشده (Emergent Abilities)

پدیده‌ای که همچنان برای دانشمندان مبهم است.
مدل‌های زبانی بزرگ (LLM)، گاهی قابلیت‌هایی از خود نشان می‌دهند که هیچ‌کس آنها را به صورت مستقیم به مدل یاد نداده است.
این مهارت‌ها از کجا می‌آیند؟ مشخص نیست.
این همان رفتاری است که باعث می‌شود سیستم‌های هوش مصنوعی پیچیده‌تر از تصور ما باشند.

۴. مشکل بزرگ‌تر: بلک‌باکس بودن هوش مصنوعی (Black Box)

هوش مصنوعی مانند یک جعبه سیاه عمل می‌کند:
ما ورودی را به مدل می‌دهیم و خروجی را دریافت می‌کنیم؛ اما از اتفاقاتی که بین این دو رخ می‌دهد، اطلاعات دقیقی نداریم.
این ویژگی شباهت عجیبی به مغز انسان دارد.
در مورد مغز نیز می‌دانیم جزئیاتی از نحوه کارکرد آن چیست، اما اینکه دقیقاً چگونه فکر، احساس و استدلال شکل می‌گیرد، هنوز معماست.

وقتی حتی ساختار مغز واقعی انسان را نمی‌توانیم کامل درک کنیم، طبیعی است که ساخت نسخه مصنوعی آن با چالش‌های جدی مواجه باشد.

اگر به این موضوعات علاقه داری، در یوتیوب درباره آینده شغلی و نگاه عمیق‌تری به هوش مصنوعی توضیح داده‌ام.
لینک آن را در کپشن گذاشته‌ام — و اگر چنین بحث‌هایی برایت جذاب است، ما را دنبال کن.