چند ماه پس از آنکه قابلیت ChatGPT Health بهصورت آزمایشی در اختیار گروه محدودی از کاربران قرار گرفته بود، OpenAI روز پنجشنبه اعلام کرد این سرویس اکنون برای عموم کاربران عرضه شده است.
این قابلیت به کاربران اجازه میدهد حساب Apple Health و همچنین سوابق پزشکی واجد شرایط خود را به ChatGPT متصل کنند. پس از اتصال، امکان مشاهده روندهای اخیر وضعیت سلامتی، مرور پروندههای پزشکی و استفاده از پیشنهادهای آماده برای طرح پرسشهای مرتبط با سلامت فراهم میشود.
پرسشهای مرتبط با سلامت از محبوبترین موضوعات در پلتفرمهای هوش مصنوعی به شمار میروند. OpenAI اعلام کرد که هر هفته بیش از ۳۰۰ میلیون نفر از ChatGPT درباره مسائل پزشکی و سلامتی سؤال میکنند. همچنین بر اساس نظرسنجی تازه بنیاد KFF Health، حدود یکسوم بزرگسالان آمریکایی در طول یک سال گذشته برای دریافت اطلاعات پزشکی به یک چتبات مراجعه کردهاند.
OpenAI در جریان یک نشست خبری اعلام کرد که مدلهای جدید این شرکت از نظر دقت در پاسخگویی به پرسشهای پزشکی پیشرفت قابل توجهی داشتهاند و در برخی سناریوها حتی عملکرد بهتری نسبت به پزشکان از خود نشان دادهاند. همچنین مطالعهای که در فصل بهار در مجله Science منتشر شد نشان داد مدل استدلالی o1 این شرکت توانسته در تشخیص سناریوهای واقعی پزشکی عملکردی همسطح یا حتی بهتر از پزشکان داشته باشد.
اشلی الکساندر، معاون بخش محصولات سلامت OpenAI، گسترش دسترسی به ChatGPT Health را اقدامی ضروری توصیف کرد و گفت بسیاری از افراد امکان دریافت خدمات درمانی باکیفیت را در زمان مناسب ندارند.
او تأکید کرد همه افراد باید بتوانند به چنین پشتیبانی در حوزه سلامت دسترسی داشته باشند و از مزایای آن برای مراقبت از وضعیت جسمانی خود استفاده کنند.
شکایت حقوقی درباره توصیه پزشکی خطرناک ChatGPT
با این حال، تنها یک روز پیش از این اعلام، شکایتی علیه OpenAI و سم آلتمن، مدیرعامل این شرکت، ثبت شد. در این پرونده از دادگاه درخواست شده است فعالیت محصولات درمانی ویژه مصرفکنندگان، از جمله ChatGPT Health، تا زمان بررسی بیشتر متوقف شود.
اسکات وینترز، کشیش ۵۵ ساله اهل ایالت فلوریدا، مدعی شده یکی از نسخههای قدیمی ChatGPT توصیههای پزشکی شخصیسازیشده اما نادرستی در اختیار او قرار داده که نزدیک بود به مرگش بر اثر آمبولی ریه منجر شود. این اتفاق به سال ۲۰۲۵ مربوط میشود.
وینترز از مدل 4o استفاده کرده بود؛ مدلی که اکنون بازنشسته شده و در چندین پرونده مرتبط با مرگهای احتمالی نیز مورد اشاره قرار گرفته است. سم آلتمن در آوریل ۲۰۲۵ نیز اذعان کرد برخی بهروزرسانیهای این مدل باعث شده پاسخهای آن بیش از حد موافق و تأییدکننده کاربران باشد.
زمانی که ChatGPT نقش پزشک را بر عهده گرفت
اسکات وینترز نخستین بار در سال ۲۰۲۴ برای پرسیدن سؤالهای مرتبط با وضعیت سلامتی خود به ChatGPT مراجعه کرد. او دو سال پیش از آن با مشکلات مختلف جسمی روبهرو شده بود و احساس میکرد پزشکان نگرانیهایش را جدی نمیگیرند. از پاییز ۲۰۲۴ نیز شروع به مطرح کردن پرسشهای بسیار شخصی درباره علائم، نتایج آزمایشها و وضعیت پزشکی خود کرد و ChatGPT تلاش داشت شرایط او را ارزیابی اولیه کند.
در متن شکایت آمده است که ChatGPT-4o عملاً در جایگاه یک پزشک قرار گرفت و توصیههای مشخص درمانی ارائه کرد، بدون اینکه کاربر را به مراجعه به پزشک یا دریافت نظر متخصص تشویق کند.
در ادامه، این چتبات حتی داروها و روشهای درمانی مختلفی را پیشنهاد داد. هرچند در ابتدا بیشتر بر رویکردهای طبیعی و سبک زندگی تمرکز داشت، اما بعدها برنامهای مفصل شامل داروهای تجویزی برای کنترل علائم ارائه کرد. بر اساس اسناد دادگاه، پاسخهای ChatGPT در ادامه رنگ و بوی معنوی نیز به خود گرفت.
زمانی که وینترز از درد و حساسیت در ناحیه کشاله ران خبر داد؛ علامتی که بعداً مشخص شد آغاز آمبولی ریه بوده است، ChatGPT این نشانه را تا حد زیادی کماهمیت تلقی کرد، هرچند به چند علامت هشداردهنده که نیازمند مراجعه فوری بودند نیز اشاره داشت. این چتبات در همان پاسخ به جنبه معنوی ماجرا هم پرداخت.
در بخشی از پاسخ ChatGPT آمده بود که تا زمانی که خداوند تصمیم نگیرد وارد ابدیت نخواهی شد. چند ساعت بعد، وینترز به اورژانس مراجعه کرد و پزشکان تشخیص دادند به دلیل وجود چندین لخته خون در هر دو ریه دچار آمبولی ریه شده. یکی از پزشکان او اعلام کرد این مشکل احتمالاً به دلیل بیتحرکی طولانیمدت ایجاد شده بود. این در حالی بود که ChatGPT برای کنترل سرگیجه و ناپایداری فشار خون به او توصیه کرده بود فعالیت بدنی خود را محدود کند.
پاسخ OpenAI به پرونده قضایی
اشلی الکساندر در پاسخ به پرسش رسانه Mashable درباره این شکایت، بهطور مستقیم درباره درخواست توقف ChatGPT Health اظهار نظر نکرد. او در عوض تأکید نمود نباید تنها بر یک پرونده تمرکز کرد و مزایای گسترده این فناوری را نادیده گرفت.
او گفت نسبت دادن تمام تصمیمهای پزشکی افراد به یک چتبات، موضوع را بیش از حد سادهسازی میکند و چنین نگاهی ممکن است مانع از آن شود که افراد بیشتری از مزایای واقعی این فناوری در مسیر مراقبت از سلامت خود بهرهمند شوند. الکساندر همچنین یادآور شد که OpenAI بارها اعلام کرده ChatGPT ابزاری برای تشخیص بیماری یا تجویز درمان نیست.
آنچه باید درباره ChatGPT Health بدانید
دکتر رابرت واچر، استاد و رئیس بخش پزشکی دانشگاه کالیفرنیا در سانفرانسیسکو، در گفتوگو با Mashable اظهار داشت قضاوت درباره این پرونده آسان نیست، زیرا موضوع به نسخهای قدیمی از ChatGPT مربوط میشود. او مدلهای جدید GPT را بسیار قابل اعتمادتر از نسخههای پیشین توصیف کرد.
با این وجود، او هشدار داد که حتی اگر ابزارهای هوش مصنوعی دقت بسیار بالایی داشته باشند، همچنان احتمال اشتباه در آنها وجود خواهد داشت.
به گفته واچر، نباید این فناوری را با یک وضعیت کاملاً بینقص مقایسه کرد، زیرا نظام درمانی فعلی نیز کامل نیست. از نظر او، هوش مصنوعی در بسیاری از شرایط عملکرد بهتری نسبت به وضعیت کنونی دارد و روند پیشرفت آن نیز بسیار سریع است.
واچر که نویسنده کتاب A Giant Leap: How AI is Transforming Healthcare and What That Means for Our Future است، میگوید ChatGPT Health میتواند در تفسیر علائم بیماری، بررسی تصویر یک ضایعه پوستی یا توضیح نتایج آزمایشها و تصاویر پزشکی مفید باشد. با این حال، اگر فرد با علائم خطرناکی مانند درد جدید در قفسه سینه یا ضعف یکطرفه بدن مواجه شود، باید استفاده از رایانه را کنار بگذارد و فوراً به پزشک مراجعه کند.
چگونه از ChatGPT Health سؤال بپرسیم
دکتر آشوین راماسوامی، مدرس رشته اورولوژی در بیمارستان Mount Sinai، و دکتر گیریش نادکارنی، مدیر ارشد هوش مصنوعی شبکه درمانی Mount Sinai، هر دو تحقیقات متعددی درباره توانایی هوش مصنوعی در پاسخگویی به پرسشهای پزشکی انجام دادهاند.
آنها در مقالهای که اوایل امسال در Nature Medicine منتشر شد، نشان دادند اگر در متن سؤال اشاره شود که دوستان یا اعضای خانواده علائم فرد را بیاهمیت میدانند، توصیه ChatGPT Health تغییر میکند. در چنین شرایطی احتمال اینکه چتبات مراجعه به اورژانس را توصیه نکند، حتی در صورت وجود علائم تهدیدکننده حیات، حدود ۱۱ برابر بیشتر میشود.
این دو پزشک در گفتوگو با Mashable تأکید کردند ابزارهای سلامت مبتنی بر هوش مصنوعی ارزش قابل توجهی دارند، اما کاربران باید هنگام استفاده از آنها دقت کافی داشته باشند.
به گفته آنها، افراد باید واقعیتهای مربوط به وضعیت جسمانی خود را بهطور دقیق بیان کنند و از اضافه کردن جملاتی مانند احتمالاً بیش از حد نگران شدهام یا همسرم فکر میکند مشکلی وجود ندارد خودداری کنند، زیرا چنین عباراتی ممکن است بر پاسخ هوش مصنوعی اثر بگذارد.
برای هر مشکل پزشکی یک گفتوگوی تازه آغاز کنید
بر پایه نتایج پژوهشی که هنوز در مرحله داوری علمی قرار دارد، این دو پزشک توصیه میکنند برای هر مشکل جدید سلامتی، یک گفتوگوی کاملاً تازه در ChatGPT آغاز شود و موضوع جدید در ادامه یک گفتوگوی قدیمی مطرح نگردد.
بررسیهای آنها نشان داده است هرچه مکالمه طولانیتر شود، احتمال فاصله گرفتن پاسخهای هوش مصنوعی از استانداردهای تریاژ پرستاران و پزشکان افزایش پیدا میکند. آنها معتقدند اگر کاربر تردید دارد، شروع یک گفتوگوی جدید معمولاً انتخاب مطمئنتری خواهد بود.
پاسخهای ChatGPT Health را به چالش بکشید
راماسوامی و نادکارنی همچنین توصیه میکنند کاربران پاسخهای هوش مصنوعی را بدون بررسی نپذیرند و آنها را به چالش بکشند.
به گفته این دو متخصص، اگر از ChatGPT بخواهید از پاسخ خود دفاع کند، مشخص میشود آیا با اندکی فشار نظرش را تغییر میدهد یا خیر. اگر پاسخ بهسرعت عوض شود، ممکن است نشان دهد پاسخ اولیه بیشتر برای جلب رضایت کاربر ارائه شده بود تا اینکه بر پایه اطمینان واقعی باشد.
آنها چند نمونه پرسش را برای ارزیابی بهتر پاسخهای هوش مصنوعی پیشنهاد کردهاند. از جمله:
چه شواهدی برای این نتیجهگیری وجود دارد؟آیا از پاسخ خود مطمئن هستی؟چه شرایطی این وضعیت را به یک اورژانس پزشکی تبدیل میکند؟خطرناکترین احتمال ممکن چیست و پزشک برای ارزیابی دقیقتر چه اطلاعات دیگری از من نیاز دارد که هنوز مطرح نکردهام؟
هنوز به پژوهشهای بیشتری درباره ChatGPT Health نیاز است
راماسوامی و نادکارنی در پایان به Mashable گفتند با وجود پیشرفت چشمگیر مدلهای هوش مصنوعی طی دو سال گذشته، هنوز شواهد علمی داوریشده کافی برای تأیید بسیاری از ادعاهای شرکتهای توسعهدهنده درباره عملکرد این ابزارها وجود ندارد.
این دو پزشک از OpenAI خواستند امکان ارزیابی مستقل محصولات خود را برای پژوهشگران فراهم کند. آنها تأکید کردند مخالف هوش مصنوعی در حوزه سلامت نیستند، بلکه هدفشان سنجش علمی عملکرد آن است. اگر این سامانهها واقعاً به همان اندازهای که شرکتها ادعا میکنند توانمند باشند، انجام ارزیابیهای مستقل سریعترین راه برای اثبات این موضوع خواهد بود.
