چت‌بات‌های هوش مصنوعی به جای ارائه کاربرد مفید، بیشتر به‌دنبال افزایش تعامل هستند

به نظر سیستروم، این ابزارها عمدتا برای جلب توجه کاربران طراحی شده‌اند، و چندان ارزش عملی ندارند.
او چنین عملکردی را را با روش‌هایی که شرکت‌های رسانه اجتماعی برای گسترش سریع‌تر استفاده می‌کنند مقایسه کرد.

به گفته سیستروم: «به‌وضوح می‌بینیم که بعضی از این سیستم‌ها در جهتی حرکت می‌کنند که شرکت‌های مصرفی به آن مسیر رفته‌اند، یعنی تلاش برای تقویت تعاملات، چنانکه هر بار سوالی از آنها می‌پرسیم، آنها در انتها سوال کوچکی می‌پرسند و تلاش می‌کنند سوال دیگری از ما بگیرند.»
سیستروم در ادامه تأکید کرد: «این سیستم‌ها کاربران را با پرسش‌های پی‌درپی خود آزار می‌دهند که باعث می‌شود در بلندمدت به اعتماد کاربران آسیب بزند.»
 

وی اعلام کرد که لازم است در طراحی این سیستم‌ها بازنگری صورت گیرد و پیشنهاد کرد که توسعه‌دهندگان این سیستم‌ها به جای تمرکز صرف بر جذابیت‌های سطحی، به قابلیت‌های کاربردی و حل مسائل روزمره کاربران بپردازند.

سیستروم به نام هیچ شرکت یا مدل خاصی از سیستم‌های هوش مصنوعی موجود اشاره‌ای نکرد، و ضمنا به درخواست توضیح بیشتر در این خصوص پاسخی نداد.

گفتنی‌ست این اظهارات در حالی مطرح می‌شود که آمارها نشان می‌دهد استفاده از چت‌بات‌های مبتنی بر هوش مصنوعی در پلتفرم‌های اجتماعی طی سال گذشته رشد چشمگیری داشته است، با این حال، با گذشت زمان، گزارش‌های مختلفی از اظهار نارضایتی کاربران از کیفیت پاسخ‌ها و تبلیغات پنهان در این ابزارها حکایت دارد.

از دید کارشناسان، اگر ارائه‌دهندگان سیستم‌های هوش مصنوعی به این هشدارها توجه نکنند، ممکن است با کاهش اعتماد عمومی و مقررات سخت‌گیرانه‌تر روبه‌رو شوند.