اخبار هوش مصنوعی: در مورد خطرات اتفاق نظر وجود ندارد: گزارش

یک گزارش بین‌المللی بزرگ در مورد ایمنی هوش مصنوعی می‌گوید که کارشناسان نمی‌توانند در مورد خطراتی که این فناوری ایجاد می‌کند به توافق برسند – و مشخص نیست که آیا هوش مصنوعی به ما کمک می‌کند یا به ما آسیب می‌زند.

این گزارش به ریاست یوشوا بنجیو از کانادا، نتیجه می‌گیرد که «مسیر آینده هوش مصنوعی همه‌منظوره به‌طور قابل‌توجهی نامشخص است».

در این بیانیه آمده است که «طیف وسیعی از مسیرها» «حتی در آینده نزدیک» امکان پذیر است که شامل نتایج بسیار مثبت و بسیار منفی می شود.

این گزارش در اجلاس ایمنی هوش مصنوعی سال گذشته که به میزبانی انگلستان برگزار شد، اولین نشست جهانی در زمینه هوش مصنوعی ارائه شد.

بریتانیا از بنژیو، که به عنوان پدرخوانده هوش مصنوعی لقب گرفته و مدیر علمی موسسه هوش مصنوعی میلا، کبک است، خواست تا ریاست این گزارش را بر عهده بگیرد. پیش از اجلاس جهانی دیگری درباره هوش مصنوعی که هفته آینده در سئول، کره جنوبی برگزار می شود، منتشر شد.

Bengio در این گزارش نوشت: “ما می دانیم که هوش مصنوعی پیشرفته به سرعت در حال توسعه است و عدم اطمینان قابل توجهی در مورد اینکه چگونه این سیستم های پیشرفته هوش مصنوعی ممکن است بر نحوه زندگی و کار ما در آینده تأثیر بگذارند وجود دارد.”

دولت بریتانیا روز جمعه در یک بیانیه مطبوعاتی اعلام کرد که این گزارش “اولین گزارش علمی مستقل و بین المللی” در مورد ایمنی هوش مصنوعی است و “نقش مهمی” در اطلاع رسانی مذاکرات در کره جنوبی در هفته آینده خواهد داشت.

گروهی متشکل از 75 کارشناس، از جمله هیئتی که توسط 30 کشور، اتحادیه اروپا و سازمان ملل معرفی شده بود، در این گزارش مشارکت داشتند. گزارش منتشر شده روز جمعه یک گزارش موقت است و انتظار می‌رود نسخه نهایی آن تا پایان سال منتشر شود.

این سیستم بر روی سیستم‌های هوش مصنوعی همه منظوره مانند ChatGPT OpenAI تمرکز دارد که می‌تواند متن، تصویر و ویدیو را بر اساس درخواست‌ها تولید کند.

این گزارش می‌گوید که کارشناسان «هم‌چنان در مورد چندین سؤال، جزئی و عمده، درباره قابلیت‌های هوش مصنوعی، خطرات و کاهش خطرات همه‌منظوره اختلاف نظر دارند».

یکی از زمینه‌های بحث، احتمال «خطراتی مانند تأثیرات بازار کار در مقیاس بزرگ، هک‌های مبتنی بر هوش مصنوعی یا حملات بیولوژیکی، و از دست دادن کنترل جامعه بر هوش مصنوعی همه‌منظوره» است.

این گزارش تعدادی از خطرات، از جمله آسیب‌هایی که هوش مصنوعی می‌تواند از طریق محتوای جعلی، اطلاعات نادرست و کلاهبرداری، و همچنین حملات سایبری ایجاد کند، ترسیم می‌کند. همچنین خطراتی را که سوگیری در هوش مصنوعی می تواند ایجاد کند، نشان می دهد، به ویژه در “حوزه های پرمخاطره مانند مراقبت های بهداشتی، استخدام شغل و وام های مالی”.

یکی از سناریوهای بالقوه این است که انسان ها کنترل هوش مصنوعی را از دست خواهند داد و حتی اگر ممکن است باعث آسیب شود، نتوانند این فناوری را کنترل کنند.

این گزارش می‌گوید که اتفاق نظر وجود دارد که فناوری همه‌منظوره فعلی چنین خطری را ایجاد نمی‌کند، اما برخی کارشناسان معتقدند که کار مداوم برای توسعه هوش مصنوعی مستقل، که می‌تواند «عمل، برنامه‌ریزی و دنبال کردن اهداف» را انجام دهد، می‌تواند به چنین نتیجه‌ای منجر شود.

این گزارش می‌گوید: «کارشناسان درباره اینکه سناریوهای از دست دادن کنترل چقدر قابل قبول هستند، چه زمانی ممکن است رخ دهند و کاهش آن چقدر دشوار است، اختلاف نظر دارند.

این گزارش توسط Canadian Press برای اولین بار در 18 مه 2024 منتشر شد.