خالق ChatGPT می گوید که Voice Engine می تواند صدای افراد را بر اساس یک نمونه صوتی 15 ثانیه ای تکرار کند.
OpenAI از ابزاری برای شبیه سازی صدای مردم رونمایی کرده است، اما به دلیل نگرانی در مورد سوء استفاده احتمالی در یک سال انتخاباتی کلیدی، از انتشار عمومی آن جلوگیری می کند.
بر اساس یک پست وبلاگ OpenAI که این ابزار را نشان می دهد، Voice Engine می تواند صدای یک فرد را بر اساس یک نمونه صوتی 15 ثانیه ای تکرار کند.
اما سازنده ChatGPT «رویکردی محتاطانه و آگاهانه» را در قبال این فناوری در پیش گرفته است و امیدوار است که گفتوگویی درباره «استقرار مسئولانه صداهای مصنوعی» آغاز کند، این شرکت در پست وبلاگ منتشر شده در روز جمعه گفت.
این استارتآپ مستقر در سانفرانسیسکو گفت: «ما تشخیص میدهیم که تولید گفتاری که شبیه صدای مردم است، خطرات جدی دارد، که بهویژه در سالهای انتخاباتی مهم است.
ما در حال تعامل با شرکای ایالات متحده و بینالمللی از سراسر دولت، رسانهها، سرگرمیها، آموزش، جامعه مدنی و فراتر از آن هستیم تا اطمینان حاصل کنیم که در حین ساخت، بازخورد آنها را نیز لحاظ میکنیم.»
ما آموختههای خود را از یک پیشنمایش در مقیاس کوچک از Voice Engine به اشتراک میگذاریم، مدلی که از ورودی متن و یک نمونه صوتی 15 ثانیهای برای تولید گفتاری با صدای طبیعی که بسیار شبیه به بلندگوی اصلی است، استفاده میکند. https://t.co/yLsfGaVtrZ
– OpenAI (@OpenAI) 29 مارس 2024
OpenAI گفت که “تصمیم آگاهانه تری” در مورد استقرار فناوری در مقیاس مبتنی بر آزمایش و بحث عمومی خواهد گرفت.
این شرکت اضافه کرد که معتقد است این فناوری تنها باید با اقداماتی گسترش یابد که تضمین کند “گوینده اصلی آگاهانه صدای خود را به سرویس اضافه می کند” و از “ایجاد صداهایی که بیش از حد شبیه به چهره های برجسته است” جلوگیری می کند.
سوء استفاده از هوش مصنوعی به عنوان یک نگرانی بزرگ در آستانه انتخابات امسال در کشورهایی که حدود نیمی از جمعیت جهان را تشکیل می دهند، ظاهر شده است.
رای دهندگان در بیش از 80 کشور از جمله مکزیک، آفریقای جنوبی و ایالات متحده هستند در سال 2024 پای صندوق های رای می رودکه بزرگترین سال انتخابات تاریخ لقب گرفته است.
تأثیر هوش مصنوعی بر رأی دهندگان قبلاً در چندین انتخابات مورد بررسی قرار گرفته است.
عمران خان، نخست وزیر سابق زندانی پاکستان، در آستانه انتخابات پارلمانی این کشور در ماه فوریه، از سخنرانی های تولید شده توسط هوش مصنوعی برای جلب نظر حامیان خود استفاده کرد.
در ماه ژانویه، یک عامل سیاسی برای دین فیلیپس، نامزد بلندپایه ریاست جمهوری ایالات متحده، با جعل هویت جو بایدن، رئیس جمهور ایالات متحده، از رای دهندگان خواست که در انتخابات مقدماتی حزب دموکرات نیوهمپشایر رأی خود را به صندوق نزنند.
OpenAI گفت چندین تدابیر ایمنی را برای شرکای خود که Voice Engine را آزمایش میکنند، اجرا کرده است، “از جمله واترمارکینگ برای ردیابی منشاء هر صدای تولید شده توسط Voice Engine، و همچنین نظارت فعال بر نحوه استفاده از آن”.