دولت آمریکا به سرعت در حال استفاده از هوش مصنوعی مولد است. ارتش این کشور از ابزاری به نام CamoGPT برای بررسی اسناد خود استفاده می‌کند و وزارت آموزش نیز می‌خواهد هوش مصنوعی به سؤالات دانشجویان درباره کمک‌های مالی پاسخ دهد. با این حرکت، انتظار می‌رود تا پایان امسال حدود ۳۰۰,۰۰۰ شغل در دولت فدرال حذف شود. اما کارشناسان هشدار می‌دهند که این فناوری هنوز آماده نیست. مگ یانگ، پژوهشگر یک مؤسسه تحقیقاتی مستقل، معتقد است که ما در یک «چرخه هیجان و اغراق» قرار داریم. او می‌گوید: «هوش مصنوعی برای این حجم از کار آماده نیست.»
هوش مصنوعی در کارهای حساس؛ از خرید دولتی تا قراردادهای حقوقی
در حال حاضر، چت‌بات‌های دولتی فقط برای کارهای ساده‌ای مثل خلاصه‌نویسی ایمیل‌ها استفاده می‌شوند، اما قرار است به زودی مسئولیت‌های مهم‌تری به آن‌ها سپرده شود. مثلاً اداره خدمات عمومی (GSA) می‌خواهد از هوش مصنوعی برای فرایند تدارکات یا همان «خرید دولتی» استفاده کند. این فرایند پیچیده شامل مذاکرات حقوقی برای خرید کالاها و خدمات از شرکت‌هاست.
به گفته یانگ، هوش مصنوعی در این کارها ممکن است به جای صرفه‌جویی در زمان، باعث هدر رفت آن شود. وکلای دولتی باید تک‌تک کلمات قراردادها را به دقت بررسی کنند. اگر یک چت‌بات بخواهد اصطلاحات جدیدی را پیشنهاد دهد، این کار زمان زیادی از وکلا می‌گیرد، در حالی که کپی و پیست کردن متن‌های از قبل تأییدشده بسیار ساده‌تر است.
اشتباهات فاجعه‌بار و توهمات هوش مصنوعی
بزرگ‌ترین مشکل هوش مصنوعی در کارهای حساس، خطاهای آن است. یک مطالعه در سال ۲۰۲۴ نشان داد که چت‌بات‌های حقوقی بین ۱۷ تا ۳۳ درصد مواقع، اشتباهات بزرگی انجام می‌دهند یا به عبارتی، “توهم” می‌زنند و اطلاعات ساختگی ارائه می‌دهند. مشهورترین نمونه این خطا در سال ۲۰۲۳ رخ داد، زمانی که یک وکیل در پرونده‌ای علیه یک شرکت هواپیمایی، از چت‌جی‌پی‌تی استفاده کرد و به پرونده‌های حقوقی کاملاً غیرواقعی استناد کرد که هرگز وجود نداشته‌اند. در مثالی دیگر، یک چت‌بات آموزش‌دیده برای استدلال حقوقی، به اشتباه گفت که یک دادگاه ایالتی، حکم دادگاه عالی ایالات متحده را لغو کرده است؛ اتفاقی که در سیستم قضایی آمریکا غیرممکن است.
به گفته کارشناسان، هوش مصنوعی در این زمینه مستعد خطا است، زیرا قوانین دائماً در حال تغییرند. دادگاه‌ها احکام قبلی را لغو می‌کنند و قوانین جدیدی تصویب می‌شود. به همین دلیل، یک جمله حقوقی ممکن است امروز کاملاً درست باشد و فردا کاملاً غلط شود، و هوش مصنوعی در درک این تغییرات مشکل دارد.
استفاده شتاب‌زده و خطرات بالقوه
در حالی که سازمان خدمات درآمد داخلی (IRS) در حال حاضر چت‌بات مجهز به هوش مصنوعی مولد را برای استفاده عمومی ارائه نمی‌دهد، یک گزارش در سال ۲۰۲۴ توسط این سازمان، سرمایه‌گذاری بیشتر در قابلیت‌های هوش مصنوعی برای چنین چت‌باتی را توصیه کرده است. البته هوش مصنوعی مولد می‌تواند در دولت مفید باشد. به عنوان مثال، یک برنامه آزمایشی در ایالت پنسیلوانیا با همکاری اوپن‌ای‌آی نشان داد که استفاده از چت‌جی‌پی‌تی به کارمندان کمک کرد به طور متوسط ۹۵ دقیقه در روز در کارهای اداری مانند نوشتن ایمیل و خلاصه‌سازی اسناد صرفه‌جویی کنند.
مگ یانگ اشاره می‌کند که محققان این برنامه را به شیوه‌ای سنجیده مدیریت کردند و به ۱۷۵ کارمند اجازه دادند تا بررسی کنند که چت‌جی‌پی‌تی چگونه می‌تواند در روند کاری فعلی آن‌ها جای بگیرد. اما دولت ترامپ از چنین خویشتن‌داری پیروی نکرده است. یانگ می‌گوید: «فرایندی که آن‌ها دنبال می‌کنند نشان می‌دهد که برایشان مهم نیست که آیا هوش مصنوعی برای هدف تعیین‌شده‌اش کار می‌کند یا خیر. همه چیز بیش از حد سریع است. این فناوری به دقت برای اهداف محدود یا برای جای گرفتن در روند کاری افراد خاص طراحی و پیاده‌سازی نمی‌شود.»
در سال ۲۰۲۲، لی اوسوفسکی، استاد حقوق در دانشگاه کارولینای شمالی، مطالعه‌ای را در مورد راهنمایی‌های حقوقی خودکار دولتی انجام داد. در این مطالعه، آن‌ها به دولت توصیه کردند که چت‌بات‌های عمومی مانند آنچه که توسط وزارت آموزش پیشنهاد شده است، باید دارای هشدارهای سلب مسئولیت باشند و به کاربران اطلاع دهند که با یک انسان صحبت نمی‌کنند. همچنین، چت‌بات باید به طور واضح اعلام کند که خروجی آن از نظر قانونی لازم‌الاجرا نیست. به عنوان مثال، اگر یک چت‌بات به شما بگوید که می‌توانید یک هزینه تجاری خاص را از مالیات کسر کنید، اما سازمان IRS با آن مخالف باشد، شما نمی‌توانید سازمان را مجبور به پیروی از پاسخ چت‌بات کنید.
به گفته جاشوا بلانک، استاد حقوق در دانشگاه کالیفرنیا، سازمان‌های دولتی همچنین باید یک «زنجیره فرماندهی شفاف» برای مشخص کردن مسئولیت ایجاد و نگهداری این چت‌بات‌ها تعیین کنند. وی در مطالعه خود متوجه شد که اغلب، افرادی که این چت‌بات‌ها را توسعه می‌دهند، کارشناسان فناوری هستند که تا حدی از سایر کارمندان بخش خود جدا هستند. بنابراین، وقتی رویکرد سازمان نسبت به راهنمایی‌های حقوقی تغییر می‌کرد، مشخص نبود که توسعه‌دهندگان چگونه باید چت‌بات‌های خود را به روز کنند.
با افزایش استفاده دولت از هوش مصنوعی مولد، یادآوری این نکته مهم است که این فناوری هنوز در مراحل اولیه خود قرار دارد. ممکن است به آن برای تهیه دستور پخت غذا یا نوشتن کارت تبریک اعتماد کنید، اما حکمرانی یک حیوان کاملاً متفاوت است. یانگ می‌گوید شرکت‌های فناوری هنوز نمی‌دانند که کدام کاربردهای هوش مصنوعی مفید خواهند بود. شرکت‌هایی مانند اوپن‌ای‌آی و گوگل با همکاری با دولت‌ها، به دنبال کشف همین کاربردها هستند. او می‌گوید: «ما هنوز در روزهای اولیه ارزیابی این هستیم که هوش مصنوعی در دولت‌ها برای چه کاری مفید است و برای چه کاری نیست.»
