לומדים "קלוד" AI - למה הוא ממציא? ולמה יש לו הזיות?
כמה פעמים נתקלנו לא סתם במידע שגוי ש"קלוד" מספק לנו, אלא ממש הוא ממציא דברים שאינם נכונים ושהם ממש "הזויים".
ובכן לפי הגדרה של המומחים לתחום, באמת יש למערכות של 'מודלי שפה גדולים' (LLM) משהו שנקרא "הזיות"!!!
בסרטון זה נדבר על הנושא, וגם נראה כיצד אפשר למזער את המציאויות האלה.
בתחילת ההדרכה ציינו לדברים של הרב איתן כהן מצפת לגבי הסיפור על הזבוב שאישתו עשתה איתו "ברוגז" שבע שנים.
💭להלן הקישור לשיעור
• לימוד תורה והארת פנים [כי תצא תשפ"ד] ✦ הרב...
במהלך ההדרכה הבאנו קטע קצר מתוך סרטון מעניין בנושא [אנגלית].
💭להלן הקישור לסרטון
• Why Large Language Models Hallucinate
על מנת לשפר את העבודה עם "קלוד" בעברית, מומלץ להתקין תוסף "כרום" RTL Responder:
https://chromewebstore.google.com/det...
לומדים "קלוד" AI: למה הוא ממציא? ולמה יש לו הזיות?
שיעור מרתק על האתגרים והמגבלות של מערכות בינה מלאכותית כמו קלוד:
חוכמה אמיתית מול "הזיות":
מדגיש את ההבדל בין חוכמה אמיתית, המתבטאת ביכולת להודות בחוסר ידיעה, לבין מערכות AI שעלולות "להזות" ולספק מידע שגוי בביטחון מלא.
דוגמה מעשית להזיות AI:
מוצג מקרה בו קלוד המציא ציטוט שגוי מהתלמוד, ממחיש את הסכנה בהסתמכות עיוורת על מידע ממערכות AI ללא אימות.
חשיבות ההקשר והמידע המדויק:
נלמד כי כאשר מספקים לAI את המידע המלא והמדויק, כמו טקסט מקורי, היא מסוגלת לנתח ולהסביר בצורה מעולה. זה מדגיש את חשיבות אספקת הקשר מלא לשאלות.
עבודה נכונה עם מערכות AI:
טיפים לשימוש יעיל במערכות כמו קלוד, כולל מתן הנחיות ברורות, אספקת הקשר מלא, ובדיקה כפולה של התשובות.
----
#בינה_מלאכותית #AI_limitations #טכנולוגיה_חכמה
על מנת לשפר את העבודה עם "קלוד" בעברית, מומלץ להתקין תוסף "כרום" RTL Responder:
https://chromewebstore.google.com/det...
בקרו באתר שלנו http://www.kubi.co.il/