GPT-4
| מחזור חיים | 14 במרץ 2023 – הווה (שנה ו־6 שבועות) |
|---|---|
| סוג רישיון | רישיון תוכנה לא חופשי |
| קטגוריה | מודל שפה |
GPT-4 (ראשי תיבות: Generative Pre-trained Transformer 4, בתרגום חופשי: "טרנספורמר מאומן מראש בעל יכולת יצירה") הוא מודל שפה רב-מודאלי (אנ') המפותח על ידי חברת OpenAI, אשר מסוגל לקבל כקלט טקסט ותמונה, ולהגיב לכך כפלט טקסט. תכונה זו היא בעיקרה המייחדת את המודל מקודמיו בסדרת GPT.[1]
גרסה מוגבלת של המודל (ללא עיבוד תמונה) שוחררה ב-14 במרץ 2023, וצפויה להיות זמינה דרך API של חברת OpenAI, ובנוסף למשתמשי ChatGPT Plus (גרסה משופרת של ChatGPT בתשלום). חברת מיקרוסופט, אשר מעט קודם לשחרור המודל הודיעה על שילוב מודל GPT במנוע החיפוש שלה בינג, אישרה כי למעשה השימוש היה ב-GPT-4 לפני שחרורו הרשמי של המודל.[2] המודל הוא מסוג טרנספורמר (המעבד יחידות טקסט שלמות בו-זמנית) וככזה הוא אומן ליצור טקסט הן באמצעות נתונים ציבוריים והן באמצעות נתונים שסופקו לו ברישיון מטעם צדדים שלישיים, ולאחר מכן, מאמנים אנושיים ביצעו למודל "כוונון" סופי בשיטת למידת החיזוק (מתן פידבק אנושי על תוצאות חיזוי המודל).
אימון ויכולות
במסגרת הכרזתה של OpenAI על שחרור המודל, כתבה החברה כי המודל "אמין ויצירתי יותר מקודמו, GPT-3, ומסוגל להתמודד עם הוראות ניואנסיות בצורה טובה יותר."[3] המודל מסוגל לקרוא, לנתח וליצור טקסט באורך של עד 25,000 מילים, והדבר מהווה שיפור משמעותי ביחס לקודמיו. עוד ציינה החברה כי המודל נבנה כחלק ממאמצי החברה להרחיב את תחום הלמידה העמוקה (שיטת למידת מכונה שבבסיסה שימוש במספר שכבות).[4]
כקודמיו, וכנובע משמו, המודל הוא טרנספורמר, כלומר מודל העובד בשיטת "קשב עצמי" ומעבד יחידות טקסט שלמות בו-זמנית. יש לציין כי המפרט הטכני של GPT-4 נמנע במפורש מלציין את גודל המודל, תוך ציון המשמעות התחרותית וההשלכות הבטיחותיות הקשורות במודלים בקנה-מידה גדול. חברי הקונגרס של ארצות הברית דון בייר וטד ליאו אישרו ל"ניו יורק טיימס" כי סם אלטמן, מנכ"ל חברת OpenAI, ביקר בקונגרס בינואר 2023 על מנת להדגים את יכולותיו של GPT-4 ואת "בקרות האבטחה" המשופרות שלו בהשוואה לדגמי אינטליגנציה מלאכותית אחרים.
לפי ה"ניו יורק טיימס", GPT-4 הראה שיפורים מרשימים ברמת הדיוק בהשוואה ל-GPT-3.5, בהן בולטת היכולת לסכם ולהגיב על תמונות. כמו כן, על פי המגזין, המודל הצליח לסכם טקסטים מורכבים, ואף עבר מבחן לשכת עורכי דין של מספר מדינות בארצות הברית, ומבחנים סטנדרטיים נוספים בתחומים אחרים כגון אמנות, ביולוגיה, סטטיסטיקה ועוד. במגזין צוין כי המודל עודנו לוקה בבעיית ה"הזיות" (hallucination), מונח מתחום למידת המכונה המתאר תגובות שנדמות למודל כסבירות, על אף שהן שגויות עובדתית, מבלי שהמודל מבין זאת. הדבר נחשב לתכונה שלילית בולטת אף אצל המודלים שקדמו לו.[5]
ביקורות
החלטת OpenAI שלא לחשוף פרטים טכניים אודות המודל ספגה ביקורת מצד חוקרי AI שונים, בהם בכירים בחברת HuggingFace, שטענו כי הסתרה זו פוגעת באופי הפתוח של קהילת הבינה המלאכותית, בכך שהיא מונעת פיתוחים המשפרים את ביצועי GPT-4.[6]
כשבועיים לאחר שחרורו של המודל, בסוף חודש מרץ 2023, חתמו למעלה מ-1,000 חוקרי בינה מלאכותית על מכתב הקורא להשעות את פיתוחי הבינה המלאכותית המתקדמים יותר מ-GPT-4 למשך שישה חודשים. זאת, בשל דאגות הנוגעות לאובדן שליטה ביכולתה של הבינה המלאכותית, ולהיעדר הרגולציה בתחום זה. בין החותמים על המכתב מצויים יובל נח הררי, אילון מאסק וסטיב ווזניאק (ממייסדי אפל).[7]
שימושים
המודל משמש את גרסת ה-Plus של ChatGPT. מעבר לכך, מיקרוסופט הודיעה ב-17 במרץ 2023 כי תשלב את המודל במוצרי מיקרוסופט אופיס, בהם Word, Excel, PowerPoint, Outlook, Teams ועוד.[8] כמו כן הודיעה גיטהאב, הנמצאת בבעלותה של מיקרוסופט, כי היא מתכננת להשתמש במודל כחלק ממוצר הבינה המלאכותית שלה, Copilot (שיכולתו המרכזית היא להשלים קוד של מתכנתים ולהקל על עבודתם).[9]
חברות נוספות הודיעו על כוונתן לשלב את GPT-4 במוצריהן, בהן אקדמיית קהאן, המספקת שיעורים מוקלטים לציבור הרחב ללא כוונת רווח.[10]
קישורים חיצוניים
הערות שוליים
- ^ Kyle Wiggers, OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art, TechCrunch, 2023-03-14 (ב־American English)
- ^ Lardinois, Frederic (14 במרץ 2023). "Microsoft's new Bing was using GPT-4 all along". TechCrunch. ארכיון מ-15 במרץ 2023. נבדק ב-14 במרץ 2023.
{{cite web}}: (עזרה) - ^ Wiggers, Kyle (14 במרץ 2023). "OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art". TechCrunch. נבדק ב-15 במרץ 2023.
{{cite web}}: (עזרה) - ^ GPT-4, openai.com (ב־American English)
- ^ Metz, Cade; Collins, Keith (14 במרץ 2023). "10 Ways GPT-4 Is Impressive but Still Flawed". The New York Times (באנגלית אמריקאית). אורכב מ-המקור ב-14 במרץ 2023. נבדק ב-14 במרץ 2023.
{{cite news}}: (עזרה) - ^ Sanderson, Katharine (2023-03-16). "GPT-4 is here: what scientists think". Nature (באנגלית). doi:10.1038/d41586-023-00816-5. ארכיון מ-2023-03-18. נבדק ב-2023-03-18.
- ^ עידן בן טובים, אילון מאסק, סטיב ווזניאק ויובל נח הררי קוראים: עצרו את פיתוחי ה-AI, באתר גיקטיים, 2023-03-29
- ^ Warren, Tom (16 במרץ 2023). "Microsoft announces Copilot: the AI-powered future of Office documents". The Verge. ארכיון מ-17 במרץ 2023. נבדק ב-17 במרץ 2023.
{{cite web}}: (עזרה) - ^ Warren, Tom (22 במרץ 2023). "GitHub Copilot gets a new ChatGPT-like assistant to help developers write and fix code". The Verge. נבדק ב-23 במרץ 2023.
{{cite web}}: (עזרה) - ^ Fensterwald, John (20 במרץ 2023). "AI in school: Virtually chatting with George Washington and your personal GPT-4 tutor". EdSource (באנגלית). ארכיון מ-2023-03-21. נבדק ב-2023-03-20.
{{cite web}}: (עזרה)
