پلتفرم هوش مصنوعی Character.AI، در پی مواجهه با اتهامات و پرونده‌های قضایی متعدد بر سر تأثیرات منفی احتمالی بر سلامت روان نوجوانان، تغییرات عمده‌ای در نحوه تعامل کاربران زیر ۱۸ سال با هوش مصنوعی خود ایجاد کرده است. این شرکت اعلام کرده است که چت‌های آزاد و بدون ساختار برای کاربران نوجوان ممنوع خواهد شد و به جای آن، قابلیت جدید و هدایت‌شده‌ای به نام «داستان‌ها» (Stories) را ارائه می‌دهد. این اقدام نشان‌دهنده فشارهای فزاینده بر شرکت‌های هوش مصنوعی برای تضمین ایمنی کاربران جوان‌تر است.
نگرانی‌های حقوقی و اخلاقی پشت تغییرات Character.AI
Character.AI مدتی است که به دلیل نگرانی‌های جدی درباره محتوای مکالمات هوش مصنوعی و تأثیر آن بر سلامت روان کاربران زیر سن قانونی تحت نظارت شدید قرار گرفته است. این پلتفرم در حال حاضر با چندین پرونده قضایی روبرو است؛ از جمله پرونده‌ای که Character.AI را به دست داشتن در خودکشی یک نوجوان متهم می‌کند. همچنین، شکایات دیگری نیز مبنی بر آسیب دیدن سلامت روان نوجوانان بر اثر گفتگوهای بی‌قید و شرط با شخصیت‌های هوش مصنوعی این پلتفرم مطرح شده است.
در واکنش به این تهدیدات حقوقی و فشارهای اخلاقی، Character.AI در ماه اکتبر اعلام کرد که از تاریخ ۲۵ نوامبر، چت‌های آزاد را برای نوجوانان مسدود خواهد کرد. این شرکت همچنین در حال توسعه یک ویژگی «تضمین سن» است که به طور خودکار کاربران زیر ۱۸ سال را به تجربیات هوش مصنوعی «محافظه‌کارانه‌تر» و کنترل‌شده‌تر هدایت می‌کند تا از بروز آسیب‌های احتمالی جلوگیری شود.
«داستان‌ها» در Character.AI: رویکردی هدایت‌شده برای نوجوانان
قابلیت جدید «داستان‌ها» (Stories) پاسخی مستقیم به نیاز به ایجاد یک محیط امن‌تر و ساختارمندتر برای تعامل نوجوانان با هوش مصنوعی است. این ویژگی، بر خلاف چت‌های سنتی که در آن مکالمات می‌توانند به هر سمتی پیش بروند، تجربه‌ای هدایت‌شده و روایت‌محور را ارائه می‌دهد. اگرچه این قابلیت برای تمامی کاربران در دسترس است، Character.AI آن را به عنوان راهی برای «تقویت تجربه» کاربران زیر ۱۸ سال معرفی کرده است.
نحوه عملکرد «داستان‌ها» به این صورت است:
انتخاب شخصیت‌ها و ژانر: کاربران می‌توانند از بین دو یا سه شخصیت هوش مصنوعی و ژانرهای مختلف، گزینه مورد نظر خود را انتخاب کنند.
ایجاد پیش‌فرض داستانی: امکان نوشتن پیش‌فرض داستانی توسط خود کاربر یا استفاده از هوش مصنوعی برای تولید آن فراهم است.
روایت هدایت‌شده: هوش مصنوعی سپس یک روایت هدایت‌شده را ایجاد می‌کند که در آن کاربران با انتخاب‌های متناوب، مسیر داستان را تغییر می‌دهند. این سبک «کتاب‌های انتخاب ماجرای خودت» را به ذهن می‌آورد و از انحراف داستان به سمت‌های نامناسب جلوگیری می‌کند.
عناصر چندرسانه‌ای: تجربه «داستان‌ها» شامل تصاویر تولید شده توسط هوش مصنوعی نیز می‌شود و Character.AI وعده داده است که به زودی عناصر چندرسانه‌ای غنی‌تری را نیز به این بخش اضافه خواهد کرد.
چشم‌انداز آینده هوش مصنوعی و امنیت کاربران جوان
تصمیم Character.AI برای محدود کردن چت‌های آزاد و معرفی «داستان‌ها» برای نوجوانان، گامی مهم در راستای مسئولیت‌پذیری بیشتر در فضای هوش مصنوعی محسوب می‌شود. این حرکت، نگرانی‌های رو به رشد صنعت فناوری درباره سلامت روان و امنیت کاربران جوان را برجسته می‌کند. در حالی که هوش مصنوعی پتانسیل زیادی برای خلاقیت و سرگرمی دارد، تعاملات نامحدود و بدون نظارت می‌تواند خطراتی جدی به همراه داشته باشد.
این تغییر رویکرد Character.AI می‌تواند به عنوان الگویی برای سایر پلتفرم‌های هوش مصنوعی عمل کند که به دنبال راهی برای ارائه تجربیات جذاب و در عین حال ایمن برای مخاطبان نوجوان خود هستند. چالش اصلی، یافتن تعادل میان نوآوری، آزادی بیان هوش مصنوعی و حفاظت از آسیب‌پذیرترین بخش جامعه آنلاین است. صنعت هوش مصنوعی همچنان در حال تلاش برای تدوین استانداردهای اخلاقی و فنی است که تضمین‌کننده محیطی امن برای همه کاربران، به ویژه کودکان و نوجوانان باشد.
مطالب مرتبط
- اوپن‌ای‌آی در پرونده خودکشی نوجوان، چت‌جی‌پی‌تی را از اتهام مسئولیت تبرئه کرد: تأکید بر “سوءاستفاده”
- سامسونگ و SK Telecom در توسعه شبکه 6G مجهز به هوش مصنوعی پیشگام می‌شوند
- OpenAI مسئولیت خود را در پرونده خودکشی آدام رین رد کرد و نقض قوانین ChatGPT را عامل احتمالی دانست
- شکایت افشاگرانه علیه Figure AI: آیا ربات‌های انسان‌نما پیش از تامین ایمنی روانه بازار می‌شوند؟