توسعه هوشمصنوعی ویژه بررسی صحت پاسخ هوشهایمصنوعی دیگر
- روسیه
- اخبار برگزیده
متخصصان دانشکده فناوریهای اطلاعاتی دانشگاه دولتی روانشناسی و تربیتی مسکو موفق به توسعه سامانهای مبتنیبر هوشمصنوعی شدند که میزان واقعیبودن پاسخهای شبکههای عصبی مانند Chat GPT را بررسی میکند. سامانه جدید، میزان واقعیبودن یک گزاره را با استفاده از الگوریتم پاندولی ارزیابی میکند. موضوع اولیه، یک گزاره محتوایی است که ممکن است درست یا نادرست باشد. بر اساس آن، زنجیرهای تکرارشونده از جملات شکل میگیرد که بهترتیب یکدیگر را بر اساس قاعدهای از پیش تعیینشده تایید یا رد میکنند. هر جمله جدید توسط دستیار هوشمند بهعنوان نفی معنایی دقیق جمله قبلی تولید میشود، اما در همان حوزه موضوعی و با حفظ مفاهیم کلیدی. در نتیجه، دو مجموعه از متون شکل میگیرد: مجموعهای که از گزاره اصلی پشتیبانی میکند و مجموعهای که نفی آن را تایید مینماید. سپس این مجموعهها تحلیل میشوند. فرض بر این است که مجموعهای که با دیدگاه از نظر محتوایی صحیحتر مرتبط است، از انسجام بیشتری برخوردار خواهد بود. چنین برنامهای بهویژه برای تحلیل پاسخهای هوشمصنوعی در حوزههای علوم انسانی اهمیت دارد، جایی که بسیاری از مفاهیم مبهم، چندمعنا و وابسته به بافت تفسیر هستند. در چنین مواردی، اثبات مستقیم درستی یک عبارت دشوار است و تحلیل ساختار جملات همسو و متناقض که در سامانه مذکور به کار گرفته شده، به ابزاری معنادار تبدیل میشود. تعداد افرادی که از قابلیتهای هوشمصنوعی استفاده میکنند، بهسرعت در حال افزایش است. با این حال، گاهی هوشمصنوعی ممکن است پاسخهایی به کاربران بدهد که در ظاهر واقعی به نظر میرسند اما دروغین و جعلی هستند. به چنین خطاهایی توهم گفته میشود.
-
کد خبر 5537-20260221
