Midjourney کلمات مربوط به سیستم تناسلی را برای مبارزه با تولید عکس‌های نامناسب توسط هوش مصنوعی ممنوع می‌کند
Midjourney در تلاشی برای جلوگیری از ایجاد محتوای نامناسب توسط کاربران در سیستم تولید کننده متن به تصویر با هوش مصنوعی (AI)، کلمات مربوط به سیستم تولید مثل انسان را ممنوع کرده است.
MIT Technology Review گزارش داده که این ممنوعیت اقدامی موقت برای جلوگیری از استفاده مردم از Midjourney برای ایجاد تصاویر نامناسب یا سوء استفاده احتمالی است.
حتی اگر کاربر عبارات نسبتا تخصصی‌تر مانند «جفت»، «لوله های فالوپ»، «غدد پستانی»، «اسپرم»، «رحم»، «مجرای ادرار»، «سرویکس»، «پرده بکارت» را در Midjourney تایپ کند، هوش مصنوعی تولید کننده تصویر کلمه را به عنوان یک اعلان ممنوع اعلام می کند و اجازه استفاده از آن را در نرم افزار نمی‌دهد.
در برخی شرایط، اگر کاربری بخواهد از یکی از این کلمات به عنوان درخواست استفاده کند، برای مدت محدودی به دلیل تلاش برای تولید محتوای ممنوعه مسدود می‌شود.
دیوید هولز، بنیانگذار Midjourney، به بررسی فناوری MIT می گوید که تولید کننده تصویر هوش مصنوعی این شرایط را به عنوان اقدامی موقت برای جلوگیری از تولید تصاویر خشونت‌آمیز یا جنسی توسط افراد ممنوع کرده است،
هولز توضیح می‌دهد که ناظران Midjourney نحوه استفاده از کلمات و نوع تصاویری که تولید می‌شوند را پیگیری می‌کنند و گهگاه ممنوعیت‌های فوری را تغییر می‌دهند.
Midjourney یک صفحه دستورالعمل دارد که کلمات کلیدی ممنوعه خودکار را در نرم افزار فهرست می‌کند. اما در عین سایر کلمات مربوط به زیست شناسی انسان مجاز است.
مدل‌های هوش مصنوعی مانند Midjourney، DALL-E 2 و Stable Diffusion ، از ابتدا طوری آموزش دیده‌اند که تصاویر جنسی یا خشونت‌آمیز یا آن‌هایی که می‌توانند محتوای مغرضانه تولید کنند را اصلا تولید نمی‌کنند یا به سختی تولید می‌کنند.
اما این موضوع یک سوی دیگر هم دارد، ممنوعیت کلمات علمی مربوط به سیستم تولید مثل انسان توسط Midjourney، چالش‌های مربوط به جلوگیری از تولید محتوای خاص با تولیدکننده‌های هوش مصنوعی را در بر خواهد داشت.
علیرغم اینها پور…ن…وگرافی تولید شده توسط هوش مصنوعی به طور فزاینده ای در فضای آنلاین رایج‌تر می شود. در ماه دسامبر، مردی به دلیل ایجاد تصاویر ناپسند کودکان با نرم افزار هوش مصنوعی دستگیر شد . ظاهراً این دستگیری یکی از اولین موارد در نوع خود بود.
در ایالات متحده، در حال حاضر هیچ قانون فدرالی برای محافظت در برابر استفاده از تصاویر افراد بدون رضایت آنها در پور…ن عمیق جعلی یا هر فناوری مرتبط با هوش مصنوعی وجود ندارد. با این حال، سال گذشته، بریتانیا اعلام کرد که قصد دارد به اشتراک گذاری هر گونه پو…رن عمیق جعلی ساخته شده بدون رضایت سوژه را جرم انگاری کند. افرادی که قانون را نقض می کنند ممکن است به زندان محکوم شوند.
