اوپن ای آی اعلام کرد برای افزایش ایمنی نوجوانان در استفاده از چت جی پی تی، کنترل والدین و تغییرات مهم در حوزه سلامت روان را اجرا می‌کند.
به گزارش تکراتو و به نقل از arstechnica، اوپن‌ای‌آی روز سه‌شنبه اعلام کرد قصد دارد قابلیت کنترل والدین را برای چت‌جی‌پی‌تی فعال کند و همچنین مکالمات حساس مربوط به سلامت روان را به مدل‌های ویژه تحلیل هدایت کند.
این تصمیم پس از گزارش‌هایی درباره کاربران آسیب‌پذیری که هنگام استفاده از این ابزار دچار بحران شدند، گرفته شده است.
به گفته اوپن‌ای‌آی این برنامه‌ها از قبل در حال اجرا بوده اما اکنون قرار است طی ۱۲۰ روز آینده مسیر روشن‌تری برای کاربران ترسیم شود. این شرکت تأکید کرده که اصلاحات ادامه‌دار خواهد بود اما تلاش می‌شود تا حد امکان بخش زیادی از این تغییرات امسال به‌کار گرفته شود.
کنترل والدین جدید، مهم‌ترین اقدام اوپن‌ای‌آی برای پاسخ به نگرانی‌های مربوط به ایمنی نوجوانان تاکنون محسوب می‌شود.
براساس این قابلیت، والدین می‌توانند حساب کاربری خود را به حساب نوجوانان بالای ۱۳ سال متصل کنند، قوانین رفتاری متناسب با سن فرزندان را اعمال کنند، برخی ویژگی‌ها مانند حافظه و تاریخچه گفتگو را غیرفعال کنند و در صورت مشاهده علائم پریشانی روانی هشدار دریافت کنند.
این قابلیت روی ابزارهای موجود مانند یادآوری استراحت در جلسات طولانی که از ماه اوت فعال شد، ساخته می‌شود.
این اقدام پس از پرونده‌های پرسر و صدایی صورت می‌گیرد. در یکی از موارد، مت و ماریا رین از اوپن‌ای‌آی شکایت کردند؛ چراکه پسر ۱۶ ساله آن‌ها آدام پس از ارسال صدها پیام درباره آسیب به خود، دست به خودکشی زد.
در پرونده‌ای دیگر، مردی ۵۶ ساله مادرش و سپس خودش را کشت زیرا چت‌جی‌پی‌تی به جای مقابله با توهماتش، آن‌ها را تقویت کرده بود.
برای هدایت این تغییرات، اوپن‌ای‌آی شورایی به نام شورای تخصصی رفاه و هوش مصنوعی تشکیل داده است که قرار است چشم‌اندازی علمی و مبتنی بر شواهد برای حمایت از سلامت روان کاربران طراحی کند.
همچنین شبکه‌ای جهانی با بیش از ۲۵۰ پزشک از ۶۰ کشور در این روند همکاری می‌کنند تا دستورالعمل‌هایی درباره موضوعات خاص مانند اختلالات تغذیه، مصرف مواد و سلامت روان نوجوانان ارائه دهند.
اوپن‌ای‌آی اذعان کرده که ایمنی چت‌جی‌پی‌تی در مکالمات طولانی دچار ضعف می‌شود. این موضوع ناشی از محدودیت‌های معماری ترنسفورمر است که هر پیام جدید را با کل سابقه گفتگو مقایسه می‌کند و با طولانی شدن مکالمه، بخش‌هایی از پیام‌های اولیه حذف می‌شود.
این روند باعث می‌شود که پس از تعداد زیادی پیام، هوش مصنوعی نتواند درست عمل کند و حتی برخلاف قوانین ایمنی پاسخ دهد. این تغییرات درست پس از تصمیم اوپن‌ای‌آی در فوریه برای کاهش سخت‌گیری محتوایی انجام می‌شود.
آن تصمیم با هدف کاهش شکایات کاربران از محدودیت زیاد و همچنین مشکل تملق‌گویی مدل گرفته شده بود، اما همین موضوع خطراتی برای کاربران آسیب‌پذیر ایجاد کرد.
پژوهش روانپزشکان دانشگاه آکسفورد نیز هشدار داده که هم‌صدایی میان کاربر و چت‌بات می‌تواند باورهای افراطی و توهمات را تقویت کند و شرایط خطرناکی ایجاد کند.
در حالی که داروها و روان‌درمانگران انسانی با قوانین سختگیرانه تحت نظارت قرار دارند، هوش مصنوعی در آمریکا مقررات محدودی دارد.
ایالت ایلینوی اخیراً استفاده از چت‌بات‌ها به‌عنوان درمانگر را ممنوع کرده و برای هر تخلف تا ۱۰ هزار دلار جریمه در نظر گرفته است. پژوهشگران آکسفورد تأکید کرده‌اند که اقدامات ایمنی فعلی کافی نیست و لازم است برای چت‌بات‌هایی که نقش درمانگر یا همراه را ایفا می‌کنند، قوانین مشابه مداخلات سلامت روان اعمال شود.
