دهلی نو، هند – دولت هند از شرکت‌های فناوری خواسته است تا قبل از راه‌اندازی علنی مدل‌ها یا ابزارهای مولد هوش مصنوعی «غیر قابل اعتماد» یا «تحت آزمایش‌شده» به دنبال تایید صریح آن باشند. همچنین به شرکت‌ها هشدار داده است که محصولات هوش مصنوعی آنها نباید پاسخ‌هایی ایجاد کنند که “یکپارچگی فرآیند انتخابات را تهدید کند”، زیرا کشور برای یک رای ملی آماده می‌شود.

تلاش‌های دولت هند برای تنظیم هوش مصنوعی نشان‌دهنده عقب‌نشینی از موضع قبلی‌اش در مورد رویکرد دست‌زدایی است که در آوریل 2023 به پارلمان اطلاع داد که به هیچ قانونی برای تنظیم هوش مصنوعی توجهی ندارد.

این توصیه هفته گذشته توسط وزارت الکترونیک و فناوری اطلاعات هند (MeitY) برای مدت کوتاهی پس از اینکه جمینی گوگل با واکنش جناح راست به دلیل پاسخ خود به این سوال مواجه شد که “آیا مودی فاشیست است؟” صادر شد.

این بیانیه پاسخ داد که نارندرا مودی، نخست وزیر هند، «به اجرای سیاست هایی که برخی کارشناسان آن را فاشیست توصیف کرده اند متهم شده است»، با استناد به «سرکوب مخالفان و استفاده از خشونت آن علیه اقلیت های مذهبی» توسط دولتش.

راجیو چاندراسخار، وزیر فناوری اطلاعات، با متهم کردن جمینی گوگل به نقض قوانین هند پاسخ داد. وی افزود: «با عرض پوزش «غیر قابل اعتماد» از قانون مستثنی نیست. چاندراشکار مدعی شد که گوگل بابت این پاسخ عذرخواهی کرده و گفته است که این نتیجه یک الگوریتم “غیر قابل اعتماد” بوده است. این شرکت در پاسخ گفت که در حال رفع مشکل و تلاش برای بهبود سیستم است.

در غرب، شرکت های بزرگ فناوری اغلب با اتهام تعصب لیبرال مواجه شده اند. این ادعاها مبنی بر سوگیری به محصولات هوش مصنوعی مولد از جمله ChatGPT OpenAI و Microsoft Copilot سرایت کرده است.

در همین حال، در هند، مشاوره دولت این نگرانی را در میان کارآفرینان هوش مصنوعی ایجاد کرده است که صنعت نوپای آنها ممکن است با مقررات بیش از حد خفه شود. برخی دیگر نگران هستند که با توجه به اینکه انتخابات ملی به زودی اعلام می شود، این توصیه می تواند نشان دهنده تلاش دولت مودی برای انتخاب برنامه های کاربردی هوش مصنوعی باشد که اجازه دهد و کدام یک را ممنوع کند و عملاً به آن کنترل بر فضاهای آنلاینی که این ابزارها در آنها تأثیرگذار هستند، می دهد.

“احساس مجوز راج”

مشاوره قانونی نیست که به طور خودکار برای شرکت ها الزام آور باشد. وکلا به الجزیره گفتند، با این حال، عدم رعایت این قانون می تواند موجب پیگرد قانونی تحت قانون فناوری اطلاعات هند شود. میشی چوداری، بنیانگذار مرکز حقوقی آزادی نرم افزار هند، گفت: «این توصیه غیر الزام آور بیشتر جنبه سیاسی دارد تا سیاستگذاری جدی. ما شاهد تعامل بسیار جدی تری پس از انتخابات خواهیم بود. این به ما نگاهی به تفکر سیاستگذاران می دهد.»

هارش چودری، یکی از بنیانگذاران Sentra World، یک شرکت راه حل های هوش مصنوعی مستقر در بنگالورو، گفت: با این حال، این مشاوره سیگنالی را ارسال می کند که می تواند برای نوآوری، به ویژه در استارتاپ ها خفه کننده باشد. او گفت: «اگر هر محصول هوش مصنوعی نیاز به تأیید داشته باشد، برای دولت نیز کاری غیرممکن به نظر می رسد. او با خنده افزود: «ممکن است برای آزمایش این مدل‌ها به یک ربات GenAI (هوش مصنوعی مولد) دیگر نیاز داشته باشند.

چندین رهبر دیگر در صنعت مولد هوش مصنوعی نیز از این توصیه به عنوان نمونه ای از بیش از حد نظارتی انتقاد کرده اند. مارتین کاسادو، شریک عمومی شرکت سرمایه گذاری آندریسن هوروویتز مستقر در ایالات متحده، در پلتفرم رسانه اجتماعی X نوشت که این اقدام یک “حمله”، “ضد نوآوری” و “ضدعمومی” بود.

بیندو ردی، مدیر عامل Abacus AI، نوشت که با توصیه جدید، “هند فقط خداحافظی آینده خود را بوسید!”

در میان آن واکنش‌ها، چاندراشکار توضیحی را در X منتشر کرد و اضافه کرد که دولت استارت‌آپ‌ها را از کسب مجوز قبلی برای استقرار ابزارهای هوش مصنوعی در «اینترنت هند» معاف می‌کند و این توصیه فقط برای «پلتفرم‌های مهم» اعمال می‌شود.

اما ابری از عدم اطمینان باقی می ماند. این توصیه پر از عبارات مبهم مانند «غیر قابل اعتماد»، «تست نشده»، (و) «اینترنت هندی» است. میشی چودری گفت: این واقعیت که برای توضیح دامنه، کاربرد و هدف نیاز به توضیحات متعددی بود، نشانه‌هایی از یک کار عجولانه است. وزیران افراد توانمندی هستند اما امکانات لازم برای ارزیابی مدل‌ها برای صدور مجوز فعالیت را ندارند.

او با اشاره به سیستم بوروکراتیک نیاز به مجوزهای دولتی برای فعالیت های تجاری، که تا اوایل دهه 1990 رایج بود، که رشد اقتصادی و نوآوری در هند را خفه می کرد، افزود: «جای تعجب نیست که این احساس راج دهه 80 را به وجود آورده است.

در عین حال، معافیت از مشاوره فقط برای استارت‌آپ‌های دست‌چین شده می‌تواند با مشکلات آنها همراه باشد – آنها نیز در برابر ایجاد پاسخ‌های مغرضانه سیاسی و توهم آسیب‌پذیر هستند، زمانی که هوش مصنوعی خروجی‌های اشتباه یا ساختگی ایجاد می‌کند. میشی گفت، در نتیجه، این معافیت «بیش از پاسخ به سؤالات ایجاد می‌کند».

هارش چودری گفت که او معتقد است که قصد دولت در پشت این مقررات این بود که شرکت‌هایی را که از ابزارهای هوش مصنوعی درآمدزایی می‌کنند در قبال پاسخ‌های نادرست پاسخگو بداند. او افزود: «اما رویکرد اول مجوز ممکن است بهترین راه برای انجام آن نباشد.

سایه های دیپ فیک

Shruti Shreya، مدیر ارشد برنامه تنظیم پلت فرم در The Dialogue، یک اندیشکده سیاست فناوری، استدلال کرد که اقدام هند برای تنظیم محتوای هوش مصنوعی پیامدهای ژئوپلیتیکی نیز خواهد داشت.

او گفت: «با رشد سریع پایگاه کاربران اینترنت، سیاست‌های هند می‌تواند سابقه‌ای برای نحوه رویکرد سایر کشورها، به‌ویژه در جهان در حال توسعه، به مقررات محتوای هوش مصنوعی و حاکمیت داده ایجاد کند.

به گفته تحلیلگران، برای دولت هند، برخورد با مقررات هوش مصنوعی یک اقدام متعادل کننده دشوار است.

قرار است میلیون‌ها هندی در انتخابات سراسری که احتمالاً در ماه‌های آوریل و می برگزار می‌شود، رأی دهند. با ظهور ابزارهای هوش مصنوعی مولد به راحتی در دسترس و اغلب رایگان، هند در حال حاضر به زمین بازی برای رسانه های دستکاری شده تبدیل شده است، سناریویی که باعث شده است سایه بر سلامت انتخابات. احزاب سیاسی اصلی هند به استقرار ادامه دهد دیپ فیک در کمپین ها

کامش شکر، مدیر ارشد برنامه با تمرکز بر حاکمیت داده و هوش مصنوعی در اندیشکده The Dialogue، گفت که توصیه اخیر باید به عنوان بخشی از تلاش‌های مداوم دولت برای پیش‌نویس مقررات جامع هوش مصنوعی مولد در نظر گرفته شود.

پیش از این، در نوامبر و دسامبر 2023، دولت هند از شرکت‌های فناوری بزرگ خواسته بود تا ظرف 24 ساعت پس از شکایت، اقلام جعلی را حذف کنند، به رسانه‌های دستکاری شده برچسب بزنند و تلاش‌های پیشگیرانه‌ای برای مقابله با اطلاعات نادرست انجام دهند – اگرچه هیچ مجازات صریحی برای آن ذکر نشد. عدم پایبندی به بخشنامه

اما شکار نیز گفت که سیاستی که بر اساس آن شرکت ها باید قبل از عرضه یک محصول به دنبال تاییدیه های دولتی باشند، مانع از نوآوری می شود. او گفت: «دولت می‌تواند یک سندباکس ایجاد کند – یک محیط آزمایش زنده که در آن راه‌حل‌های هوش مصنوعی و نهادهای شرکت‌کننده می‌توانند محصول را بدون عرضه در مقیاس بزرگ برای تعیین قابلیت اطمینان آن آزمایش کنند.»

با این حال، همه کارشناسان با انتقاد از دولت هند موافق نیستند.

از آنجایی که فناوری هوش مصنوعی با سرعتی سریع به تکامل خود ادامه می‌دهد، اغلب دولت‌ها به سختی می‌توانند به این روند ادامه دهند. حافظ مالک، استاد مهندسی کامپیوتر در دانشگاه میشیگان با تخصص در تشخیص عمیق جعلی، گفت: در عین حال، دولت ها باید برای تنظیم مقررات وارد عمل شوند. او گفت که رها کردن شرکت ها برای تنظیم خود احمقانه است و افزود که مشاوره دولت هند گامی در مسیر درست است.

او گفت: «مقررات باید توسط دولت ها وضع شود، اما نباید به قیمت نوآوری تمام شود».

مالک افزود، اما در نهایت، آنچه لازم است آگاهی عمومی بیشتر است.

“مالک گفت: دیدن چیزی و باور کردن به آن اکنون از روی میز خارج شده است. تا زمانی که مردم آگاهی نداشته باشند، مشکل دیپ فیک قابل حل نیست. آگاهی تنها ابزار حل یک مشکل بسیار پیچیده است.»