نگرانی دانشمندان از تعصب «چت جی پی تی»مطالعات تأیید می کنند که هوش مصنوعی چت جی پی تی که محبوب ترین مدل زبانی هوش مصنوعی در جهان است در پاسخ های خود دارای تعصب است. - براساس مطالعه محققان دانشگاه کالیفرنیا، برکلی، چت جی پی تی متعلق به شرکت اُپن ای آی(OpenAI) که در حال حاضر محبوب ترین مدل زبان مبتنی بر هوش مصنوعی در جهان به حساب می آید، در اطلاعاتی که ارائه می کند بی طرف نیست. به گزارش سایت قطره و به نقل ازایسنا، مقاله آنها نشان می دهد که از آنجایی که چت جی پی تی از حجم عظیمی از مقالات دارای حق نشر به عنوان مجموعه داده ای که بر اساس آن آموزش یافته و پاسخ های خود را پایه گذاری می کند، استفاده می کند، سوگیری ذاتی در آن داده ها به نتایج چت جی پی تی نیز راه پیدا می کند. محققان در مطالعه خود نوشتند که مدل های اُپن ای آی تعداد زیادی از انواع مختلف مقالات دارای حق نشر را در خود جای داده اند و این فرآیند تحت تاثیر تعداد دفعاتی است که قسمت های آن مقالات در فضای وب ظاهر می شوند. به این ترتیب، اطلاعات مرتبط با مقالاتی که در فرآیند آموزش بیشتر مورد استفاده قرار گرفته اند، نسبت به اطلاعاتی که به طور مکرر مورد استفاده قرار نگرفته اند، بیشتر در پاسخ ها گنجانده می شوند. همانطور که محققان در مورد این مطالعه توضیح دادند، دقت چنین مدل هایی به شدت به فرکانس مشاهده اطلاعات در داده های آموزشی وابسته است و این، برچسب ها: |
آخرین اخبار سرویس: |