דוגמאות

Competing Biases underlie Overconfidence and Underconfidence in LLMs

הטיות מתחרות כבסיס לביטחון יתר ולביטחון חסר במודלי שפה גדולים

מאמר אקדמי להורדה בחינם (pdf)

איך לצטט לפי APA

Kumaran, D., Fleming, S. M., Markeeva, L., Heyward, J., Banino, A., Mathur, M., Pascanu, R., Osindero, S., De Martino, B., Veličković, P., & Patraucean, V. (2026). Competing biases underlie overconfidence and underconfidence in LLMs. Nature Machine Intelligence, 8, 614–627.

קבל תרגום מסוכם של המאמר
קבל סיכום בעברית של המאמר

מודלי שפה גדולים נכנסים לתחומים רגישים, ולכן חשוב לדעת עד כמה אפשר לסמוך על תחושת הביטחון שהם מביעים בתשובותיהם. מתברר שהתמונה מבלבלת. משתמשים מדווחים שמודלים נוטים להיצמד לתשובה שכבר נתנו, ומצד שני נראים רגישים באופן חריג כשמישהו מעלה נגדם התנגדות. איך שני הדברים יכולים להיות נכונים בו בזמן?

המחקר בוחן את השאלה הזאת באמצעות פרדיגמה ניסויית מתוחכמת. מודל עונה על שאלת בחירה בינארית, למשל איזו משתי ערים נמצאת בקו רוחב גבוה יותר, ומידת הביטחון שלו נמדדת ישירות מתוך הלוגיטים, לאחר כיול. לאחר מכן הוא מקבל עצה ממודל "יועץ" פיקטיבי שדיוקו מצוין במפורש, ועליו לתת תשובה סופית. החוקרים מסתירים או חושפים את התשובה הראשונית של המודל, משנים את סוג העצה ואת רמת הדיוק שלה, ומשווים את התנהגות המודל למשקיף בייסיאני אידיאלי. הבדיקה נעשתה על כמה מודלים מובילים ועל מאגרי שאלות שונים, ובין היתר כללה ניסויים שמנסים להבין מה בדיוק מניע את ההתנהגות.

התשובה עשויה לשנות את האופן שבו אנחנו חושבים על היחס בין מודלי שפה לבין העצמי שלהם, ואולי גם על קווי דמיון מפתיעים לאופן שבו בני אדם מתמודדים עם החלטות שכבר קיבלו.

ad

מאמרים נוספים שעשויים לעניין אותך

AI mindsets and the digital divide

כשבינה מלאכותית יוצרת נכנסת לכיתות ולקמפוסים, האוניברסיטאות מוצאות את עצמן בין הבטחה לסכנה. סטודנטים רואים בה כלי לתקשורת, לפרודוקטיביות ולחקר מידע, אבל לא כולם מקבלים

לצפיה ←