נראה שחודש לא חולף מבלי שאיש בעל פרופיל גבוה מעיר על הפוטנציאל של מכונות עם בינה מלאכותית להשתלט על העולם. אלון מאסק מתעד את דבריו כי מערכות AI הן "מסוכנות יותר מפטריות". אבל הוא לא היחיד, סטיבן הוקינג חושש גם הוא, "פיתוח בינה מלאכותית מלאה יכול לאיית את סוף המין האנושי". פרופסור הוקינג אמר ל- BBC. "זה ימריא מעצמו, ויעצב את עצמו מחדש בקצב הולך וגובר." אפילו ביל גייטס מודאג, "אני במחנה מודאג מודיעין-על. אני מסכים עם אלון מאסק ואחרים על זה ולא מבין מדוע אנשים מסוימים אינם מודאגים. "
כולם משמיעים דאגה מהאפשרות שלמערכות AI חזקות יש השלכות בלתי מכוונות, או אפילו הרות אסון. בינואר, אלון מאסק תרם 10 מיליון דולר למכון העתיד החיים (FLI) בכדי להפעיל תוכנית מחקר עולמית שמטרתה לשמור על AI מועיל לאנושות.
היום הודיע מכון עתיד החיים כי הוא העניק כספים בסך 7 מיליון דולר ל 37 צוותי מחקר ברחבי העולם, כך שהחברה תוכל לקצור את היתרונות של AI, תוך הימנעות מהאפוקליפסה וסוף החיים על פני האדמה.
הסכנה בתרחיש שליחות קטלנית היא לא שזה יקרה, אלא שהוא מסיח את הדעת מהנושאים האמיתיים שמציבה AI בעתיד.
ג'אן טאלין, אחד מחברי המייסדים של ה- FLI והבחור שכתב את הגרסה המקורית של סקייפ, אמר על המחקר החדש, "בניית AI מתקדמת זה כמו שיגור רקטה. האתגר הראשון הוא למקסם את ההאצה, אך ברגע שהוא מתחיל להעלות מהירות, אתה צריך להתמקד גם בהיגוי. "
בין 37 הפרויקטים שלושה פרויקטים אשר יבדקו טכניקות המאפשרות למערכות AI ללמוד מה בני האדם מעדיפים להתבונן בהתנהגות שלנו. אחד הפרויקטים האלה ינוהל באוניברסיטת ברקלי, ואחד באוניברסיטת אוקספורד.
בנג'ה פאלנשטיין, במכון לחקר המודיעין של מכונות, מקבל 250,000 דולר למחקרי דרכים לשמירה על האינטרסים של מערכות העל-אינטליגנטיות בערכים אנושיים. בעוד הצוות של מנואלה ולוסו, מאוניברסיטת קרנגי-מלון, יקבל 200 אלף דולר כדי לבדוק כיצד לגרום למערכות AI להסביר את החלטותיהם לבני אדם.
פרויקטים אחרים כוללים מחקר שערך מייקל ווב מאוניברסיטת סטנפורד כיצד לשמור על ההשפעות הכלכליות של AI מועילות, פרויקט כיצד לשמור על נשק מונע AI תחת "שליטה אנושית משמעותית", ומרכז מחקר חדש באוקספורד-קיימברידג 'ללימוד AI מדיניות רלוונטית.
האחרון הזה הוא כל הקופה הגדולה. בראש המרכז החדש שנקרא "מרכז המחקר האסטרטגי לבינה מלאכותית" יעמוד ניק בסטרום, האיש שכתב את הספר שגרם לאלון להיבהל לגבי עתידו של האנושות. להקמת המרכז FLI נותנת לבוסטרום 1.5 מיליון דולר מגניבים. מי אמר שאין כסף בכתיבת דברים על רובוטים שמשתלטים על העולם? ובכן בעצם אף אחד, פשוט תראה כמה כסף עושה הוליווד מאותו ז'אנר!
מדברים על הוליווד, ה- FLI מנסה להתנתק מהאפוקליפסה. ה- FLI להוט להדגיש את החשיבות של הפרדת עובדה לבדיון. "הסכנה בתרחיש שליחות קטלנית אינה שזה יקרה, אלא שהוא מסיח את הדעת מהנושאים האמיתיים שמציבה AI העתידית", אמר נשיא FLI, מקס טגמארק. "אנו נשארים ממוקדים, 37 הקבוצות הנתמכות במענקים של היום צריכות לעזור בפתרון סוגיות אמיתיות כאלה."
מה אתה חושב? כסף שהוצא היטב?
