کشاورز چینی به توصیه هوش مصنوعی اعتماد کرد؛ ۲۵ هکتار محصولش از بین رفت
کشاورز چینی به توصیه هوش مصنوعی اعتماد کرد؛ ۲۵ هکتار محصولش از بین رفت
به گزارش بیکینگ به نقل از Techspot، او پس از دریافت چند توصیه موفق از یک چت‌بات برای کنترل علف‌های هرز و آفات، این بار نیز بدون بررسی صحت اطلاعات به پیشنهاد هوش مصنوعی عمل کرد؛ نتیجه، از بین رفتن حدود ۲۵ هکتار از محصولات کنجد او بود.
چت‌بات به این کشاورز توصیه کرده بود برای از بین بردن علف‌های هرز از ترکیبی شامل علف‌کش «فلوفناسِت» و چند ماده شیمیایی دیگر استفاده کند. کشاورز نیز بدون آنکه درباره سازگاری این ترکیبات با محصول خود تحقیق کند، دستورالعمل ارائه‌شده را اجرا کرد.
صبح روز بعد، او متوجه شد بخش بزرگی از مزرعه‌اش از بین رفته است. حدود ۲۴٫۷ هکتار نهال کنجد خشک شده و مرده بودند. کشاورز که متوجه اشتباه شده بود، دوباره از همان چت‌بات پرسید دلیل نابودی محصولات چه بوده است.
پاسخ هوش مصنوعی نشان داد یکی از مواد توصیه‌شده، یعنی فلوفناست، عامل اصلی این مشکل بوده است. این علف‌کش عمدتاً برای کنترل علف‌های هرز پهن‌برگ در مزارع سویا استفاده می‌شود، اما کنجد نیز یک گیاه پهن‌برگ است و در نتیجه می‌تواند تحت تأثیر این ماده شیمیایی قرار بگیرد.
این اتفاق بار دیگر محدودیت‌های استفاده از هوش مصنوعی برای تصمیم‌های حساس را نشان می‌دهد. چت‌بات‌ها ممکن است اطلاعات ناقص، نادرست یا خارج از زمینه ارائه کنند و حتی اگر در گذشته چندین بار پاسخ درستی داده باشند، این موضوع تضمینی برای صحت پاسخ‌های بعدی نیست. به همین دلیل، توصیه‌های مربوط به کشاورزی، مواد شیمیایی، پزشکی و سایر حوزه‌های حساس باید حتماً با منابع تخصصی و کارشناسان بررسی شوند.
ماجرا همچنین یادآور نمونه‌های دیگری از اعتماد بیش از حد به پاسخ‌های هوش مصنوعی است. در نمونه‌ای دیگر، فردی پس از پرسیدن درباره جایگزین‌های نمک از ChatGPT، ماده‌ای را به‌عنوان جایگزین دریافت کرد که برای مصرف غذایی مناسب نبود و در نهایت به مسمومیت با برومید منجر شد.
