[
کارشناسان نسبت به استقبال سریع از پلتفرم هوش مصنوعی چینی DeepSeek هشدار داده‌اند و نگرانی‌هایی درباره انتشار اطلاعات نادرست و همچنین نحوه سوءاستفاده احتمالی دولت چین از داده‌های کاربران مطرح کرده‌اند.
به گزارش تکراتو و به نقل از گاردین، مقامات بریتانیا اعلام کردند که هرگونه تهدید امنیت ملی ناشی از این هوش مصنوعی جدید را زیر نظر دارند. دولت بریتانیا اعلام کرده که استفاده از این هوش مصنوعی یک انتخاب شخصی برای شهروندان است، اما مقامات در حال بررسی تهدیدات امنیتی بالقوه ناشی از آن هستند و تاکید کرده‌اند که در صورت بروز تهدید، بدون تردید اقدام خواهند کرد.
هوش مصنوعی دیپ سیک که این هفته یک تریلیون دلار از ارزش شاخص سهام فناوری ایالات متحده کاست، به سرعت به پرتکرارترین اپلیکیشن رایگان دانلودشده در بریتانیا و ایالات متحده تبدیل شد. دونالد ترامپ نیز ظهور آن را هشداری برای شرکت‌های فناوری خواند.
ورود DeepSeek به عرصه هوش مصنوعی، جهان فناوری را شگفت‌زده کرده است؛ زیرا ظاهرا توانسته عملکردی مشابه پلتفرم‌های معروفی مانند ChatGPT ارائه دهد، اما با هزینه‌ای بسیار کمتر.
نگرانی از امنیت داده‌ها و مداخله دولت چین
مایکل وولدریج، استاد هوش مصنوعی در دانشگاه آکسفورد معتقد است که منطقی است فرض کنیم داده‌هایی که کاربران در این چت‌بات وارد می‌کنند، می‌توانند با دولت چین به اشتراک گذاشته شوند.
او می‌گوید:
به نظرم دانلود این هوش مصنوعی برای پرسیدن درباره عملکرد باشگاه فوتبال لیورپول یا تاریخ امپراتوری روم ایرادی ندارد، اما آیا توصیه می‌کنم اطلاعات حساس، شخصی یا خصوصی خود را در آن وارد کنید؟ قطعا نه… چون نمی‌دانید این داده‌ها به کجا می‌روند.
دِیم وندی هال، عضو هیئت مشورتی سطح بالای سازمان ملل در حوزه هوش مصنوعی، نیز به گاردین گفته است:
نمی‌توان انکار کرد که هر شرکت فناوری چینی که با اطلاعات سروکار دارد، ملزم به رعایت قوانین دولت چین در مورد آنچه می‌تواند یا نمی‌تواند بگوید، است.
راس برلی، هم‌بنیان‌گذار مرکز Information Resilience که بخشی از بودجه آن توسط دولت‌های بریتانیا و آمریکا تامین می‌شود، هشدار داده است:
ما بارها دیده‌ایم که پکن چگونه سلطه فناوری خود را برای نظارت، کنترل و سرکوب، هم در داخل و هم در خارج از کشور، به کار می‌گیرد.
او اضافه می‌کند که اگر هوش مصنوعی DeepSeek بدون نظارت رها شود، می‌تواند کارزارهای انتشار اطلاعات نادرست را تقویت کند، اعتماد عمومی را از بین ببرد و روایت‌های اقتدارگرایانه را در جوامع دموکراتیک نهادینه کند.
هشدار مقامات بریتانیا درباره هوش مصنوعی چینی DeepSeek
پیتر کایل، وزیر فناوری بریتانیا، در مصاحبه‌ای با پادکست News Agents گفته است:
فکر می‌کنم در حال حاضر مردم باید خودشان تصمیم بگیرند که آیا می‌خواهند از این هوش مصنوعی استفاده کنند یا نه، چون هنوز فرصت کافی برای بررسی کامل آن نداشته‌ایم.
اما چیزی که مشخص است این است که DeepSeek یک مدل چینی است که سانسور در آن وجود دارد و آزادی‌هایی که در سایر مدل‌ها می‌بینید، در اینجا نیست. البته طبیعی است که مردم کنجکاو باشند و آن را امتحان کنند.
DeepSeek یک پلتفرم متن‌باز است، به این معنی که توسعه‌دهندگان نرم‌افزار می‌توانند آن را متناسب با نیازهای خود تغییر دهند. بسیاری از کارشناسان، ظهور این هوش مصنوعی را آغازی برای موج جدیدی از نوآوری در هوش مصنوعی می‌دانند، زیرا تا پیش از این، این حوزه عمدتا تحت سلطه شرکت‌های فناوری آمریکایی بود که وابسته به سرمایه‌گذاری‌های عظیم در زمینه تراشه‌ها، مراکز داده و منابع انرژی جدید بودند.
وولدریج تاکید می‌کند:
این موضوع به‌وضوح نشان می‌دهد که اگر کسی هنوز شک داشت، چین در این حوزه عقب نمانده است.
سانسور و اطلاعات نادرست در دیپ سیک
برخی از کاربرانی که DeepSeek را آزمایش کرده‌اند، متوجه شده‌اند که این هوش مصنوعی از پاسخ دادن به سوالات حساس خودداری می‌کند. به‌عنوان مثال، وقتی درباره کشتار میدان تیان‌آن‌من از آن سوال شد، پاسخی نداد. همچنین، وقتی از آن درباره وضعیت تایوان پرسیده شد، خط رسمی حزب کمونیست چین را تکرار کرد و گفت که تایوان «بخشی جدایی‌ناپذیر از چین» است.
هال، عضو هیئت مشورتی سازمان ملل، می‌گوید:
بزرگ‌ترین مشکل هوش مصنوعی مولد، انتشار اطلاعات نادرست است. این مشکل به داده‌های استفاده‌شده در مدل، سوگیری‌های آن داده‌ها و نحوه به‌کارگیری آن‌ها بستگی دارد. ما همین مشکل را در DeepSeek نیز می‌بینیم.
با این حال، برخی کاربران گزارش داده‌اند که DeepSeek در برخی موارد، اطلاعات واقعی ارائه می‌دهد. عظیم اظهر، کارشناس هوش مصنوعی، پس از پرسیدن درباره وقایع میدان تیان‌آن‌من، ابتدا پاسخی کلی دریافت کرد که این موضوع «حساس» است و در بسیاری از کشورها، از جمله چین، سانسور می‌شود. اما پس از آن، DeepSeek توضیح داد که این وقایع «به‌طور گسترده به‌عنوان سرکوب اعتراضات دموکراسی‌خواهانه شناخته می‌شوند» و افزود:
دولت چین با سرکوب خشونت‌آمیز واکنش نشان داد که منجر به کشته شدن صدها (و شاید هزاران) نفر، از جمله معترضان و سربازان، شد.
خطرات استفاده از DeepSeek برای داده‌های شخصی و کاری
بسیاری از کاربران از مدل‌های هوش مصنوعی مانند DeepSeek و ChatGPT برای پردازش اسناد شخصی یا کاری، مانند یادداشت‌های جلسات، استفاده می‌کنند. اما نکته‌ای که کمتر مورد توجه قرار می‌گیرد این است که هر اطلاعاتی که آپلود شود، ممکن است توسط مالک شرکت جمع‌آوری شده و برای آموزش هوش مصنوعی یا اهداف دیگر مورد استفاده قرار گیرد.
DeepSeek در شهر هانگژو مستقر است و در سیاست حفظ حریم خصوصی خود به‌صراحت اعلام کرده که اطلاعات شخصی کاربران «در سرورهای امن مستقر در جمهوری خلق چین ذخیره می‌شود.»
همچنین اعلام کرده که از داده‌های کاربران برای «انجام تعهدات قانونی، اجرای وظایف در جهت منافع عمومی و حفاظت از منافع حیاتی کاربران و سایر افراد» استفاده می‌کند.
اما قانون اطلاعات ملی چین بیان می‌کند که تمام شرکت‌ها، سازمان‌ها و شهروندان موظف‌اند از تلاش‌های اطلاعاتی ملی حمایت، کمک و همکاری کنند.
نتیجه‌گیری: احتیاط یا پذیرش؟
ظهور DeepSeek نشان می‌دهد که چین رقابت جدی در حوزه هوش مصنوعی با شرکت‌های غربی دارد. اما نگرانی‌ها درباره سانسور، انتشار اطلاعات نادرست و استفاده احتمالی دولت چین از داده‌های کاربران، موجب شده است که کارشناسان نسبت به استفاده گسترده از این هوش مصنوعی هشدار دهند.
در نهایت، این کاربران هستند که باید تصمیم بگیرند آیا می‌توانند به DeepSeek اعتماد کنند یا نه؟
منبع ]
