chatgpt بالاخره شمردن را یاد گرفت

جهان صنعت نیوز، اشتباهاتِ بااعتمادبه‌نفس، یکی‌از مشکلات رایج در مدل‌های زبانی مورداستفاده در چت‌بات‌های هوش مصنوعی هستند. یکی از نقاط ضعف همیشگی و معروف چت‌جی‌پی‌تی این بود که غالبا در شمارش تعداد دفعات تکرار حرف «R» در کلمه‌ی «Strawberry» دچار اشتباه می‌شد؛ اما در شرایطی که اوپن‌ای‌آی قصد داشت برای رفع این مشکل یک جشن پیروزی بگیرد، کاربران در بخش نظرات به اشتباهات و توهم‌های متعدد دیگری در این هوش مصنوعی اشاره کردند.

با وجود تمام پیشرفت‌هایی که چت‌بات‌های هوش مصنوعی داشته‌اند، یکی از بزرگ‌ترین نقاط ضعف آن‌ها همچنان این است که با اعتمادبه‌نفس کامل و به‌وفور، به شما دروغ می‌گویند. اگر اطلاعاتی غلط باشد، چت‌بات متوجه آن نمی‌شود و حتی اگر به او تذکر دهید، شاید روی پاسخ خود پافشاری کند و درحالی‌که به شما می‌گوید حق با اوست، به اشتباه خود ادامه دهد؛ مشکلی که اغلب به‌عنوان یکی از خطرات جدی ابزارهای AI مطرح می‌شود؛ به‌ویژه با توجه به منابع عظیمی که هوش مصنوعی مصرف می‌کند، این حجم از خطا واقعا آزاردهنده است.

یکی از نمونه‌های رایج اشتباهات در ChatGPT، همان سؤال تعداد تکرار حرف «R» در کلمه‌ی «strawberry» است؛ تا مدت‌ها، پرسیدن این سؤال از چت‌جی‌پی‌تی باعث می‌شد که چت‌بات پاسخ اشتباهی بدهد و اغلب بحث می‌کرد که در کلمه‌ی «strawberry» حرف «R» سه بار تکرار نشده است؛ سایر مدل‌های هوش مصنوعی نیز اغلب با همین مشکل مواجه می‌شدند.

زومیت