AI Overview של גוגל מציגה למשתמשים תוכן מוטעה

לא הפעם הראשונה שגוגל משיקה בינה מלאכותית לא מוכנה

AI Overview, תוסף הבינה המלאכותית החדשה של גוגל שהושק לפני שבועיים,
למנוע החיפוש של החברה שאמור לעזור לסכם מידע על החיפוש של המשתמש.
מה שכן הפיצ'ר החדש הזה בא עם שלל בעיות והבינה המלאכותית הציגה מידע מוטעה,
על כל מיני נושאים שאנחנו נעבור עליהם בכתבה הזו ממש בקרוב.

הרבה חברות בזמן האחרון כמו גוגל, מיקרוסופט, X (לשעבר טוויטר) ו-OpenAI,
מתחרות על השוק הלוקרטיבי של בינה מלאכותית גנרטיבית,
ומנסות להשיק פיצ'רים חדשים כל הזמן על מנת לא להישאר מאחור,
ולתת למתחרה כלשהי להתעלות עליה ולקחת לה את המקום בתחום הבינה המלאכותית.

מה שכן, אותן חברות לפעמים משיקות מוצרים שפשוט, לא עובדים כמו שצריך,
בנוסף לכך לפעמם בחברות העובדים לא בודקים את הפיצ'ר כמו שצריך,
וברגע שהחברה משיקה את אותו פיצ'ר למשתמשים ברחבי העולם,
המשתמשים מוצאים פרצות או באגים משמעותיים שעלולים לגרום לנזק, בין אם זה לתוכנה או לאנשים.

מה AI Overview הציג לאנשים?

נתחיל מדבר מאוד פשוט, משתמש אחד רצה "לבחון" את תוסף הבינה המלאכותית של גוגל,
והוא חיפש בגוגל "האם אי פעם היה נשיא מוסלמי בארצות הברית". (התשובה היא לא)
לעומת זאת הבינה המלאכותית סיכמה כי היה נשיא מוסלמי אחד בארה"ב,
ושמו הוא ברק חוסיין אובמה, למרות שאובמה הוא נוצרי פרוטסטנטי.

בנוסף לכך משתמש אחר חיפש "למה הגבינה בפיצה שלי לא נדבקת לרוטב"
מה שהבינה המלאכותית הציגה למשתמש הזה הוא:
ש-"על מנת שגבינה בפיצה תידבק לרוטב בזמן שהיא נאפה, צריך להוסיף לרוטב שמינית כוס של דבק לא רעיל."
הבינה המלאכותית לקחה תגובה מ-Reddit בתור המקור לשאלה.

עוד דוגמה לשאלה שמשתמש אחר חיפש הוא "להכין רשימה של פירות שמסתיימים ב-um".
אני אישית הייתי מצפה שגוגל יציעו פירות כמו שזיף (או באנגלית, "Plum").
אך הפירות ש-AI Overview של גוגל הציגו הם: "Applum, Bananum, Strawberrum, Tomatum" וקוקוס.
המשתמש לאחר מכן העלה את התוצאה ל-X (לשעבר טוויטר):

סה"כ הפיצ'ר החדש של גוגל לא בדיוק עוזר לאנשים למצוא את מה שהם מחפשים.
ומוציא לאנשים מידע מוטעה והזוי, כמו שזה בסדר לאכול אבן קטנה אחת ביום,
או שאם יש לכם צבע עור כהה תוכלו לבהות ישירות על השמש במשך חצי שעה,
בקיצור, יש עוד זמן עד שהפיצ'ר החדש של גוגל יהיה באמת שימושי.