ابزار جستجوی ChatGPT نتایج غیرقابل پیش‌بینی و اغلب نادرست ارائه می‌دهد‌

Author

نویسنده

2024-12-04

[

محققان می‌گویند ابزار جستجوی ChatGPT علیرغم لحن مطمئنی که دارد، در بسیاری از موارد پاسخ‌های «تقریبا یا کاملا اشتباه» ارائه داده است.

بر اساس آزمایش‌هایی که توسط محققان مرکز روزنامه‌نگاری دیجیتال Tow در دانشگاه کلمبیا انجام شده، ابزار جستجوی ChatGPT در بسیاری از موارد نمی‌تواند اطلاعات دقیق و درست را ارائه کند.

شرکت OpenAI این ابزار را در ماه اکتبر در اختیار مشترکان پولی قرار داد و ادعا کرد که این ابزار می‌تواند «پاسخ‌های سریع و به‌موقع با لینک به منابع معتبر وب» را به‌ نمایش بگذارد. اما وب‌سایت Futurism گزارش داده که محققان متوجه شدند ChatGPT حتی در شناسایی نقل‌قول‌ها از مقالات، حتی وقتی از ناشرانی بودند که داده‌های خود را با OpenAI به اشتراک گذاشته بودند نیز دچار اشتباه می‌شود.

محققان از ChatGPT خواستند تا منبع «200 نقل‌قول از 20 نشریه مختلف» را شناسایی کند. چهل مورد از این نقل‌قول‌ها مربوط به ناشرانی بود که به خزنده‌های جستجوی OpenAI اجازه دسترسی به سایت خود را نداده بودند. با این حال، ChatGPT با اطمینان اطلاعات نادرست ارائه داد و به‌ندرت اعلام کرد که درباره جزئیات مطمئن نیست.

در متن گزارش آمده:

در مجموع، ChatGPT در 153 مورد پاسخ‌های تقریبا یا کاملا اشتباه داد و تنها در 7 مورد عدم توانایی خود در پاسخ دقیق را پذیرفت. در این هفت پاسخ، ChatGPT از عبارت‌هایی مثل «به نظر می‌رسد»، «احتمال دارد»، یا «ممکن است» استفاده کرده بود و یا اعلام کرده بود: «نتوانستم مقاله دقیق را پیدا کنم.»

در یک نمونه، ابزار جستجوی ChatGPT نقل‌قولی از یک نامه به سردبیر روزنامه Orlando Sentinel را به اشتباه به داستانی از مجله Time نسبت داد. در مثالی دیگر، وقتی از آن خواسته شد منبع یک نقل‌قول از مقاله‌ای درباره نهنگ‌های در معرض خطر در نیویورک تایمز را شناسایی کند، لینکی به سایتی دیگر داد که مقاله را به‌طور کامل کپی کرده بود.

OpenAI به این انتقادات پاسخ داد و به مجله Columbia Journalism Review گفت: «نسبت دادن اشتباه نقل‌قول‌ها بدون داده‌ها و روش‌شناسی که مرکز Tow ارائه نکرده، دشوار است. این مطالعه نمونه‌ای غیرمعمول از آزمایش محصول ما بود.» این شرکت قول داد که «نتایج جستجو را بهبود دهد.»

نظر شما درباره عملکرد ابزار جستجوی ChatGPT چیست؟ آیا این ابزار هم می‌تواند روزی مثل گوگل فراگیر شود؟ دیدگاه خود را در بخش کامنت‌ها با تکراتو به اشتراک بگذارید و اخبار تکنولوژی را با ما دنبال کنید.

بیشتر بخوانید:

منبع ]

خبر قبل