توصیه اشتباه هوش مصنوعی ۲۵ هکتار از محصول یک کشاورز چینی را نابود کرد

اعتماد تدریجی به یک ابزار پرخطا

کشاورز ۶۷ ساله‌ای که تنها با نام «وو» شناخته می‌شود، مدتی از یک برنامه هوش مصنوعی برای راهنمایی درباره کشاورزی و مقابله با آفات و علف‌های هرز استفاده می‌کرد. پس از چند تجربه موفق، اعتمادش به این ابزار بیشتر شد و سرانجام بدون تأیید متخصص یا آزمایش در مقیاس کوچک، توصیه هوش مصنوعی را برای مقابله با علف‌های هرز و آفات مزرعه کنجدش، در سطح وسیعی از زمین اجرا کرد.
 

علف‌کشی که محصول را هم از بین برد

برنامه مذکور ترکیبی از مواد شیمیایی از جمله علف‌کشی مخصوص گیاهان پهن‌برگ را پیشنهاد داده بود؛ غافل از اینکه کنجد نیز گیاهی پهن‌برگ است. در نتیجه، به‌جای حفاظت از محصول، همان ماده به آن آسیب زد. یک روز پس از سم‌پاشی، نهال‌های کنجد پژمرده شدند و بخش بزرگی از مزرعه از بین رفت. خسارت وارده حدود ۲۵ هکتار (۱۵۰ مو) برآورد شده و ارزش مالی آن نزدیک به ۱۵۰ هزار یوان (حدود ۲۰ هزار و ۷۰۰ دلار) گزارش شده است.
 

چرا مدل‌های زبانی دچار خطا می‌شوند؟

مدل‌های زبانی بزرگ اساساً برای تولید پاسخ‌های منسجم زبانی طراحی شده‌اند، نه تصمیم‌گیری تخصصی در شرایط واقعی کشاورزی؛ و همین موضوع می‌تواند پاسخ‌هایی مطمئن اما نادرست تولید کند. پژوهشی که در ژوئیه ۲۰۲۴ در نشریه Frontiers in Plant Science منتشر شد نشان می‌دهد مدل‌های عمومی برای سازگاری با شرایط محلی کشاورزی محدودیت دارند و یک مدل واحد نمی‌تواند پاسخگوی همه محیط‌ها و وظایف باشد. توصیه صحیح کشاورزی به داده‌هایی درباره نوع محصول، آفت، شرایط خاک و آب‌وهوا، و آفت‌کش‌های مجاز نیاز دارد؛ بنابراین درستی یک پاسخ در شرایطی خاص، تضمینی برای درستی آن در شرایط دیگر نیست.
 

هشدارهای پیشین درباره انتخاب آفت‌کش با هوش مصنوعی

این تنها مورد از این دست نیست؛ دانشگاه کرنل نیز پیش‌تر نسبت به اتکای بدون بررسی به توصیه‌های هوش مصنوعی درباره آفت‌کش‌ها هشدار داده بود، چرا که برخی سیستم‌ها ممکن است موادی را پیشنهاد دهند که برای محصول موردنظر مجاز نیستند. استفاده خارج از دستورالعمل می‌تواند به محصول، محیط زیست و سلامت افراد آسیب بزند؛ از این‌رو بررسی برچسب و مشورت با متخصص پیش از اجرا ضروری است.
 

جایگزینی برای متخصص کشاورزی نیست

این حادثه به معنای بی‌فایده بودن هوش مصنوعی در کشاورزی نیست؛ کاربردهایی مانند تشخیص آفات، تحلیل تصاویر و برآورد نیاز آبیاری همچنان در حال گسترش‌اند. پژوهشگران پیشنهاد می‌کنند به‌جای مدل‌های عمومی، از مدل‌های تخصصی متصل به پایگاه‌داده‌های معتبر و سامانه‌های تصمیم‌یار مبتنی بر بازیابی اطلاعات استفاده شود که شرایط محلی را در نظر می‌گیرند.
 

درسی فراتر از کشاورزی

نکته اصلی، فاصله میان پاسخ قانع‌کننده و پاسخ صحیح و قابل‌اجراست. هرچه توصیه به تصمیمی پرخطرتر مرتبط باشد، بررسی و تأیید انسانی اهمیت بیشتری می‌یابد؛ چرا که در مورد آفت‌کش‌ها، یک اشتباه کوچک می‌تواند طی چند ساعت محصولی گسترده را نابود کند. هوش مصنوعی ابزاری مفید است، اما نباید آخرین حلقه زنجیره تصمیم‌گیری باشد.