הסתברות לאבדון

מתוך המכלול, האנציקלופדיה היהודית
קפיצה לניווט קפיצה לחיפוש

P(doom) (קיצור של Probability of doom, "הסתברות לאבדון") הוא מונח בתחום בטיחות הבינה המלאכותית המתייחס להסתברות לתוצאות קטסטרופליות קיומיות (או "אבדון") כתוצאה מבינה מלאכותית[1][2] . התוצאות המדויקות הנדונות משתנות מתחזית אחת לאחרת, אך באופן כללי הן מרמזות על הסיכון הקיומי מבינה מלאכותית כללית[3]

המונח, שמקורו בבדיחה פנימית בקרב חוקרי בינה מלאכותית, זכה לבולטות בשנת 2023 לאחר השקת GPT-4, כאשר דמויות בעלות פרופיל גבוה כמו ג'פרי הינטון[4] ויושוע בנג'יו[5] החלו להזהיר מפני הסיכונים של בינה מלאכותית[6] בסקר משנת 2023, חוקרי בינה מלאכותית התבקשו להעריך את ההסתברות שהתקדמויות עתידיות בבינה מלאכותית עלולות להוביל להכחדת האנושות או לפגיעה חמורה ודומה באופן קבוע במהלך 100 השנים הקרובות. הערך הממוצע מהתשובות היה 14.4%, עם ערך חציוני של 5%[7]

תחזיות אישיות של דמויות בולטות

דמויות בולטות בתעשיית הטכנולוגיה ובחקר הבינה המלאכותית הציגו תחזיות שונות לגבי P(doom). אליעזר יודקובסקי, מייסד מכון המחקר למודיעין מכונות, הציג את התחזית הפסימית ביותר עם הערכה של מעל 95% לאבדון. ג'פרי הינטון, החתן פרס נובל לפיזיקה 2024 והמכונה "אבי הבינה המלאכותית", העריך את ההסתברות במעל 50%. יושוע בנג'יו, המדען הממוחשב וחתן פרס נובל, העריך את ההסתברות ב-50%. מנגד, דמויות אחרות כמו יאן לקון, המדען הראשי לבינה מלאכותית במטא, העריך את ההסתברות בפחות מ-0.01%, ואילו מארק אנדרסן, איש העסקים האמריקני, העריך אותה ב-0%. בין השניים נמצאים אילון מאסק (10-30%), שיין לג מגוגל דיפמיינד (5-50%), ודריו אמודיי מאנתרופיק (10-25%).

ביקורת

התעוררה מחלוקת מסוימת לגבי התועלת של P(doom) כמונח, בין השאר בשל חוסר הבהירות לגבי האם תחזית נתונה מותנית בקיומה של בינה מלאכותית כללית, המסגרת הזמנית, והמשמעות המדויקת של "אבדון".

בתרבות הפופולרית

  • בשנת 2024, להקת הרוק האוסטרלית King Gizzard & the Lizard Wizard השיקה את הלייבל החדש שלה, p(doom) Records.

ראו גם

הערות שוליים

  1. ↑ Railey, Clint (2023-07-12). "P(doom) is AI's latest apocalypse metric. Here's how to calculate your score". Fast Company.
  2. ↑ Thomas, Sean (2024-03-04). "Are we ready for P(doom)?". The Spectator (באנגלית אמריקאית). נבדק ב-2024-06-19.
  3. ↑ "It started as a dark in-joke. It could also be one of the most important questions facing humanity". ABC News (בAustralian English). 2023-07-14. נבדק ב-2024-06-18.
  4. ↑ Metz, Cade (2023-05-01). "'The Godfather of A.I.' Leaves Google and Warns of Danger Ahead". The New York Times (באנגלית אמריקאית). ISSN 0362-4331. נבדק ב-2024-06-19.
  5. ↑ "One of the "godfathers of AI" airs his concerns". The Economist. ISSN 0013-0613. נבדק ב-2024-06-19.
  6. ↑ Roose, Kevin (2023-12-06). "Silicon Valley Confronts a Grim New A.I. Metric". The New York Times (באנגלית אמריקאית). ISSN 0362-4331. נבדק ב-2024-06-17.
  7. ↑ Piper, Kelsey (2024-01-10). "Thousands of AI experts are torn about what they've created, new study finds". Vox (באנגלית אמריקאית). נבדק ב-2024-09-02.תבנית:Br Citing:תבנית:Br"2023 Expert Survey on Progress in AI [AI Impacts Wiki]". wiki.aiimpacts.org. נבדק ב-2024-09-02.
בינה מלאכותית
כללי מבחן טיורינג • היסטוריה של הבינה המלאכותית • ציר הזמן של בינה מלאכותית • התקדמות הבינה המלאכותית • אוריינות AI • סוכן תבוני • AI-שלמות מערכת מומחה • אסדרת בינה מלאכותית (בישראל) • בינה מלאכותית צרה • בינה חישובית • הסברתיות בינה מלאכותית • הפרדוקס של מורבק • סוכן תבוני • אתיקה של בינה מלאכותית • זיהוי תוכן שנוצר על ידי בינה מלאכותית • Attention Is All You Need
תחומים עיבוד שפה טבעית • ראייה ממוחשבת • בינה מלאכותית יוצרת • אומנות בינה מלאכותית • בינה מלאכותית כללית (AGI)
סוגי למידת מכונה מערכת לומדת • למידה מונחית • למידה בלתי מונחית • למידה עמוקה • למידת חיזוק • סיווג בייסיאני נאיבי • רשת בייסיאנית
אלגוריתמי למידת מכונה קלאסית פרספטרון • עץ החלטה • מכונת וקטורים תומכים • Bag of words • אלגוריתם k-מרכזים • אלגוריתם מיקסום התוחלת • הורדת ממד • אלגוריתם שכן קרוב • יער אקראי • Q-learning •‏ T-SNE •‏ Tf–idf • חיזוק גרדיאנט
למידה עמוקה רשת עצבית מלאכותית • רשת זרימה קדימה • רשת עצבית רקורסיבית • פונקציית אקטיבציה • טרנספורמר • Attention •‏ GAN
עיבוד שפה טבעית מודל שפה • שיכון מילים • בלשנות חישובית • תרגום מכונה • חילוץ מידע (אנ') • ניתוח סנטימנט • זיהוי חלקי דיבר (אנ') • מערכת זיהוי דיבור • זיהוי ישויות • כריית טקסט • תיוג תפקידים סמנטי • Word2vec • מודל שפה גדול • GPT •‏ BERT (אנ') • מודל Bag-of-words (אנ') • יצירת טקסט בשפה טבעית (אנ') • מילת עצירה • ניתוח מחרוזות • Stemming (אנ') • למטיזציה (אנ')
יישומים לבינה מלאכותית (אנ') צ'אטבוט • זיהוי דובר • זיהוי עצמים • זיהוי תבניות • עוזר וירטואלי • זיהוי תווים אופטי • מחולל תמונות • הזיות
מערכות בינה מלאכותית אלייזה • ChatGPT •‏ DALL-E •‏ Midjourney •‏ Gemini • קלוד •‏ Perplexity •‏ SearchGPT •‏ GitHub Copilot • דיפ־פייק • סירי • Google Assistant • אמזון אלכסה • מיקרוסופט קופיילוט • Qwen
סוגיות בטיחות בינה מלאכותית (אנ') סכנה קיומית מבינה מלאכותית כללית • בינה מלאכותית חזקה (אנ') • יישור בינה מלאכותית (אנ') • בקרת יכולות בינה מלאכותית (אנ') • בינה מלאכותית ידידותית (אנ') • התכנסות אינסטרומנטלית (אנ') • סינגולריות טכנולוגית • השתלטות הבינה המלאכותית • המכתב הפתוח על בינה מלאכותית (2015)
ספריות בשימוש נרחב TensorFlow •‏ PyTorch •‏ Torch •‏ Hugging Face •‏ Keras •‏ spaCy (אנ') •‏ Caffe
לקטגוריית הבינה המלאכותית
הערך באדיבות ויקיפדיה העברית, קרדיט,
רשימת התורמים
רישיון cc-by-sa 3.0

הסתברות לאבדון41422137Q126735145

אוחזר מתוך "https://www.hamichlol.org.il/w/index.php?title=הסתברות_לאבדון&oldid=3351270"