گزارشهای جدید حاکی از آن است که غول جستجوی جهان، گوگل، به صورت آزمایشی در حال جایگزینی تیترهای اصلی اخبار در سرویس Google Discover خود با محتوای تولید شده توسط هوش مصنوعی است. این اقدام آزمایشی با واکنشها و انتقادات زیادی همراه شده، چرا که بسیاری از این تیترهای هوش مصنوعی نه تنها بیمعنی و نامفهوم هستند، بلکه در مواردی خوانندگان را به سمت محتوای گمراهکننده سوق میدهند. این تغییر میتواند بر نحوه مصرف اخبار توسط میلیونها کاربر تأثیر بگذارد و سوالات جدی درباره مسئولیتپذیری هوش مصنوعی در فضای خبری ایجاد کند.
تجربه ناموفق هوش مصنوعی گوگل در تولید تیتر خبر
Google Discover که به عنوان فید خبری گوشیهای هوشمند شناخته میشود، محتوای خبری را بر اساس علایق کاربران نمایش میدهد. اما به نظر میرسد تلاش اخیر گوگل برای استفاده از هوش مصنوعی جهت خلاصهسازی و تولید تیترهای هوش مصنوعی کوتاهتر، نتایج ناخوشایندی به دنبال داشته است. این تیترهای هوش مصنوعی تولید شده، در بسیاری از موارد از دقت و کیفیت لازم برخوردار نیستند و حتی گاهی اوقات به کلی با محتوای اصلی مقاله مغایرت دارند.
در ادامه برخی از نمونههای problematic تیترهای هوش مصنوعی تولید شده توسط گوگل آورده شده است که منجر به نگرانیهای جدی شدهاند:
"بازیکنان BG3 کودکان را مورد سوءاستفاده قرار میدهند": این تیتر گمراهکننده، تصویری نادرست و مخرب از جامعه بازیکنان این بازی ارائه میدهد.
"Qi2 پیکسلهای قدیمی را کند میکند": یک ادعای تکنیکی که ممکن است به طور کامل نادرست باشد و کاربران را به اشتباه بیندازد.
"قیمت Steam Machine فاش شد": در حالی که اطلاعات اصلی نشان میداد قیمت هنوز اعلام نشده است، این تیتر به دروغ ادعای افشاگری را مطرح میکند.
نگرانی ناشران از تیترهای خبری هوش مصنوعی و از دست رفتن کنترل محتوا
این روند جدید گوگل، باعث نگرانی گسترده در میان ناشران و روزنامهنگاران شده است. آنها معتقدند که گوگل با این کار، حق ناشران را برای بازاریابی و ارائه کار خود به شیوهای مسئولانه سلب میکند. یک تیتر خبری خوب، نه تنها باید خواننده را جذب کند، بلکه باید به دقت و مسئولانه محتوای خبر را منعکس کرده و اهمیت آن را به سرعت منتقل کند. با جایگزینی این تیترها توسط هوش مصنوعی که فاقد درک عمیق از بافت و اهمیت خبر است، ممکن است خوانندگان تصور کنند که خود ناشران در حال تولید محتوای کلیکبیت هستند، در حالی که نام رسانه در کنار این تیترهای گمراهکننده ظاهر میشود.
یکی از موارد برجسته، تلاش گوگل برای عنوان "AMD GPU tops Nvidia" بود. در حالی که داستان اصلی تنها در مورد فروش بیشتر واحدی AMD نسبت به Nvidia در یک خردهفروشی آلمانی در یک هفته مشخص بود، گوگل آن را به یک تیتر فریبنده تبدیل کرد که گویی AMD یک کارت گرافیک انقلابی جدید معرفی کرده است. همچنین، تیترهایی مانند "پشتیبانی کشاورزی برنامه ۱" یا "مناظره تگ هوش مصنوعی داغ میشود" که خارج از بافت، کاملاً بیمعنی و غیرقابل فهم هستند، نشاندهنده ناکارآمدی این سیستم هوش مصنوعی است.
Google همچنین برای پنهان کردن این واقعیت که این تیترهای هوش مصنوعی تولید شدهاند، تلاش میکند. تنها با کلیک بر روی دکمه "مشاهده بیشتر" است که کاربران با پیامی مبهم مواجه میشوند: "تولید شده با هوش مصنوعی که ممکن است اشتباه کند." این عدم شفافیت میتواند به راحتی منجر به سوءتفاهم شود و خوانندگان را به این باور برساند که خود ناشران این تیترها را عمداً برای Google Discover ارسال کردهاند.
واکنش گوگل و پیامدهای گستردهتر هوش مصنوعی در اخبار
سخنگوی گوگل، مالوری دلیون (Mallory Deleon)، در واکنش به این انتقادات اعلام کرده است که این فقط یک "آزمایش کوچک رابط کاربری برای زیرمجموعهای از کاربران Discover" است. او افزود که آنها در حال آزمایش طراحی جدیدی هستند که هدف آن، آسانتر کردن جزئیات موضوع برای کاربران قبل از کاوش لینکها است. با این حال، بسیاری این توضیح را کافی نمیدانند.
این آزمایش در بستر یک روند بزرگتر در گوگل رخ میدهد: اولویت دادن به محصولات خود به بهای از دست دادن ترافیک سایتهای خبری. در حالی که گوگل ادعا میکند هوش مصنوعی جستجوی آن به وب آسیب نمیرساند، اما بسیاری از رسانههای خبری با این ادعا مخالف هستند. حتی خود گوگل در دادگاه اذعان کرده است که "وب باز در حال افول سریع است." این وضعیت، بسیاری از رسانهها، از جمله "The Verge" را وادار کرده تا به مدل اشتراکی روی آورند تا بتوانند در مواجهه با "Google Zero" (پدیدهای که در آن گوگل پاسخها را مستقیماً در نتایج جستجو ارائه میدهد و نیاز به کلیک بر روی وبسایتها را از بین میبرد) به حیات خود ادامه دهند. استفاده از هوش مصنوعی در تولید تیترهای خبری بدون نظارت کافی نه تنها به اعتبار اخبار آسیب میزند بلکه میتواند به از بین رفتن اعتماد عمومی به منابع خبری و اطلاعاتی منجر شود.
مطالب مرتبط
- استراتژی جسورانه گوگل برای برتری در هوش مصنوعی: آیندهای کاملاً شخصیسازیشده در انتظار کاربران است
- تداوم چالشهای اخلاقی و فنی هوش مصنوعی گروک ایلان ماسک: از انتخابهای جنجالی تا خطاهای فاحش اطلاعاتی
- اپل با تغییرات کلیدی در رهبری هوش مصنوعی خود، به دوران پس از جان جیاناندریا وارد میشود
- گزارش موسسه فناوری ماساچوست: ۱۱.۷ درصد از نیروی کار آمریکا با هوش مصنوعی موجود قابل جایگزینی است