تولید ویدیو دیپ‌فیک از مارتین لوتر کینگ جونیور در Sora غیرممکن شد

اوپن‌ای‌آی به درخواست بنیاد مارتین لوتر کینگ جونیور، تولید ویدیوهای هوش مصنوعی با تصویر او در اپلیکیشن سورا را متوقف کرد. OpenAI در ایکس اعلام کرد که با این بنیاد همکاری کرده هست تا شیوه‌ی نمایش تصویر کینگ در ویدیوهای سورا را بررسی کند زیرا چندین کاربران از ابزار موردبحث برای ایجاد تصاویری توهین‌آمیز از این رهبر حقوق مدنی آمریکا استفاده کردند. هنوز مشخص نیست که اوپن‌ای‌آی قصد دارد قابلیت تولید ویدیوهای مربوط به کینگ جونیور را در آینده بازگرداند یا نه.

پس از راه‌اندازی اپ سورا، کاربران ویدیوهایی با استفاده از تصاویر شخصیت‌های عمومی فوت‌شده تولید کردند که شامل مایکل جکسون، رابین ویلیامز و مارتین لوتر کینگ جونیور بود. دختر رابین ویلیامز از مردم خواسته قرار دارای بود تا ویدیوهای ساخته شده با هوش مصنوعی از پدرش را برای او ارسال نکنند. او در اینستاگرام نوشت: «دیدن میراث انسان‌های واقعی که به این صورت کاهش می‌یابد که فقط کافی هست شبیه به آن‌ها به‌نظر برسد، و دیگران بتوانند آن‌ها را در ویدیوهای بی‌احترامی مانند تیک‌تاک به حرکت درآورند، دیوانه‌کننده هست.» برنیس ای. کینگ، دختر مارتین لوتر کینگ جونیور نیز در پلتفرم تردز موافقت خود را با این درخواست اعلام کرد و از مردم خواست تا ویدیوهای مربوط به پدرش را برای او نفرستند.

بر اساس گزارش واشنگتن پست، ویدیوهایی که در سورا ساخته شده و آنلاین منتشر شدند، شامل تصاویری بودند که در آن‌ها مارتین لوتر کینگ جونیور درحالی که سخنرانی «من یک رؤیا دارم» را ایراد می‌کرد، صدای میمون می‌داد. ویدیوی دیگری نشان می‌داد که او با مالکوم ایکس درحال کشتی گرفتن هست. ایلیاسه شاباز دختر مالکوم ایکس از توسعه‌دهندگان هوش مصنوعی خواست تا در استفاده از تصویر افراد تاریخی با همان اخلاق، وجدان و دقتی که برای خانواده‌های خود می‌خواهند عمل کنند.

اوپن‌ای‌آی اعلام کرد درحالی که منافع قوی آزادی بیان در نمایش شخصیت‌های تاریخی وجود دارد، این شرکت معتقد هست که شخصیت‌های عمومی و خانواده‌های آن‌ها باید سرانجام کنترل نحوه‌ی استفاده از تصویر خود را داشته باشند. این شرکت افزود که مالکان میراث سایر شخصیت‌های تاریخی و نمایندگان آن‌ها نیز امکان داردند از شرکت درخواست کنند که از تصویر آن‌ها در ویدیوهای سورا استفاده نشود.