: המומחה לבינה מלאכותית מדמיין עתיד שבו מכונות הופכות לשוות אינטלקטואלי לאנשים, ומנסה לענות על השאלה האם הם יעקרו את בני האדם.
הומו דיגיטלי
האדם בנה את החומה הגדולה של סין ואת הפירמידות המצריות, כבש את האש ויצא לחלל ... אבל, למרות כל ההישגים, נחליף אותנו. כמעט כל העקבות של הומו ספיינס ייעלמו, בדיוק כמו עקבותיהם של הניאנדרטלים שלא יכלו לעמוד בפנינו. תחליף אותנו בינה מלאכותית (AI), שתגיע לרמה שלנו עד 2062.
הומו ספיינס החליף את הניאנדרטלים בגלל יכולתם לדבר. לפני הדיבור היכולת שלנו ללמוד הייתה מוגבלת מאוד, אך השפה שינתה את הכל. אבות קדומים למדו להעביר זה לזה את המידע הדרוש להישרדות. השפה העניקה לנו סיפורים, מיתוסים, דתות והוסיפה sapiens (הגיוני) לשם המין שלנו. כוחנו הפך לקולקטיבי.
הזינוק השני התרחש כאשר הופיעה הכתיבה. מקורו בסין כ -5,000 שנה לפני הספירה. ה. ובמסופוטמיה בערך 3 100 שנה לפני הספירה. זה איפשר לסבך את מבנה החברות, לבצע שיטתיות לחוקים השולטים בחיים ולהכניס מערכות חינוך.
השלב השלישי הוא ההדפסה. גוטנברג המציא את בית הדפוס סביב שנת 1440. בשנה שלאחר מכן נדפסו פחות מ 100,000 ספרים באירופה. כיום, תעשיית הדפוס מפרסמת מיליוני ספרים מדי שנה.
הצעד הרביעי שהאנושות נוקטת ברגע זה הוא מה שהמחבר מכנה צביעה. צביעה היא אימון אינדיבידואלי בקבוצה, בעוד שהידע של כל אחד מחברי הקבוצה זהה. קוד מחשב הפך לכלי אידיאלי לאימונים מסוג זה, ומחשבים מאומנים בשיטה זו. מחשבים מצטיינים ביכולת למידה. אנשים מוגבלים באמצעים ושיטות להעברת ידע, בעוד מחשבים מחליפים זה עם זה קודים ללא הגבלות. אם מחשב אחד ילמד לאבחן סרטן עור, כל שאר המכונות יאספו יכולת זו. זה צביעה.
אמנם מחשבים לא עולים עלינו בכל דבר. המוח שלנו עדיין מורכב יותר ממחשב העל החזק ביותר. אנחנו יצירתיים. אבל אולי לא יהיו לנו יתרונות אלה לאורך זמן.
הסוף שלנו
מכונות מכות את האדם בשחמט והולכות, אבל הן עלו עלינו לא רק במשחקים. הם צריכים לנתח טוב יותר את האינטרנט כדי לחזות מחירי מניות, וברפואה מחשבים קוראים קרדיוגרמות טוב יותר מרופאים. עם זאת, זו היכולת לפתור בעיה אחת ספציפית.
המטרה של פיתוח בינה מלאכותית היא לכתוב תוכנית שיכולה לעשות הכל בדיוק כמו אדם, או יותר טוב. זו עדיין דרך ארוכה - אנשים מקדימים מכוניות עד כה: הם מאומנים במהירות ומסוגלים להסביר את החלטותיהם. אולם האלגוריתמים יכולים לזהות חתול בתצלום, אך הם אינם יכולים לומר כיצד קבעו זאת. ל- AI אין תמונה מלאה של העולם: הוא אינו מקשר תפוח לחוק הכובד. אנשים יודעים להסתגל - זה הפך אותנו לתפיסה הדומיננטית של כדור הארץ.
לדברי המחבר, "הפלישה למכונות" מתפרסמת מאוד.
סוף התודעה
אין לנו כלים למדידת התודעה. עד כמה שידוע, אף אחד מהמוח אינו אחראי לכך. לבעלי חיים רמת תודעה מוגבלת, אך לא AlphaGo. היא לא חשבה: "מכיוון שהכל התברר, אני ארוויח קצת כסף בפוקר מקוון." AlphaGo אפילו לא יודע שהוא משחק.
אך אין ערובה לכך שהמצב לא ישתנה. המחבר מציע שלושה תרחישים שבהם מכונות יכולות להכיר את המודעות:
- ניתן לתכנת אותו.
- זה יתעורר כתוצאה משיפורי מחשב.
- זה יכול ללמוד על ידם.
הדרך הראשונה היא הכי פחות סבירה: כיצד לתכנת משהו שאנחנו עצמנו לא מבינים? אולי בשנת 2062, ל- AI לא תהיה תודעה כלל. הטבע מזכיר לנו כי ל- AI יכולות להיות מוח שונה לחלוטין. הביטו בתמנונים - החכמים ביותר מכל חסרי החוליות.
גם אם ה- AI לא מתכוון, הנושא המורכב לא פחות של רצון חופשי יישאר.
לבסוף, כשאנחנו מנסים ליצור עותק דיגיטלי של המוח הביולוגי שלנו, אנו נתקלים במגבלות טכנולוגיות: המוח עם מיליארדי הנוירונים שלו וטריליוני הסינפסות הוא המערכת המורכבת ביותר ביקום.
סוף העבודה
בשנת 2062 אנשים יעבדו הרבה פחות. רובוטים יעבדו, ואנחנו נעסוק בדברים נעימים וחשובים יותר - ניצור אמנות, נפתח את החברה ... זו תהיה התחייה השנייה! או שלא?
כלכלנים חוששים שעד 2062 רוב המקצועות ייהרגו על ידי אוטומציה. נכון, תחזיות כאלה נעשו לאורך כל המאה ה- XX, כך שנוכל להעריך את מידת הדיוק והיקפן.
החישובים של כלכלנים פסימיים הם בינאריים: המקצוע ייעלם או לא. אבל יש קרקע אמצעית. לדוגמה, AI מאיים על רואי חשבון. עם זאת, ניתן להניח שרק חלק מפעילותן יתבצע אוטומטית.
תחזיות כאלה לוקחות בחשבון את ההסתברות הטכנית לאוטומציה, אך לא לרווחיות. מבחינה טכנית ניתן לבצע אוטומציה של עבודות אשף לתיקון אופניים. מבחינה כלכלית אין בכך שום הגיון: זו אינה העבודה ששילמה הכי גבוה, והרובוט אינו זול.
ההיסטוריה מראה כי בזכות הטכנולוגיה נוצרו יותר מקומות עבודה מאשר הושמדו. לפני המהפכה התעשייתית, אנשים רבים עבדו בחקלאות, אך אז הופיעו מקצועות רבים במשרדים ובמפעלים.
בנוסף, יש להבחין בין עבודה "סגורה" ו"פתוחה ". במצב סגור (לדוגמה, מנקי חלונות או נהגים), מערך התפקידים מוגבל בהחלט והם יהיו אוטומטיים. עבודה פתוחה רק תתרחב. לדוגמא, כימאי הוא יצירה פתוחה. אוטומציה רק תרחיב את אופקי המדע.
יש צורך להעריך את יסוד האנושות במקצועות כמו מורה, אחות, אחות. האם תרצה שרובוט יטפל בך בגיל מבוגר? זה אחד מאותם נושאים שעלינו לקחת בחשבון.
סביר להניח שנעבוד פחות. לפני המהפכה התעשייתית, רבים עבדו 60 שעות בשבוע, ואחריהם הצטמצם נתון זה ל 40 שעות, ונוספה חופשה שנתית.
ותחזית נוספת: הקורבנות הראשונים למהפכה הדיגיטלית יהיו הנהגים.
בעבר מכונות החליפו אדם העובד בעבודה גופנית, אך כעת הם יכולים ליטול עבודה נפשית מסוימת. מה נעשה? נפתח שוב אנשים בעצמנו. מכונות יכולות ללמוד לכתוב מוסיקה ורומנים, אך אנו מעריכים יותר את יצירותיהם של אנשים - מכיוון שהם מבוססים על חוויה אנושית.
אולי נגלה מחדש מלאכות, ערך מלאכת היד. כיום, בעת הגשת מועמדות למשרה, כישורי STEM (מדע, טכנולוגיה, הנדסה ומתמטיקה) מוערכים, אך בשנת 2062, הבינה החברתית והרגשית שלנו תהפוך לתכונות החשובות ביותר.
סוף המלחמה
אחד הראשונים שנעלמים הוא מקצועו של חייל. מערכות נשק אוטונומיות (DIA) יהיו המהפכה הצבאית השלישית - אחרי אבק שריפה ופצצת האטום. ו- DIA מסוכן יותר משניהם. מזלט קטן וכמה גרמים של חומרי נפץ אינם דורשים עבודה מדעית רבה, כמו שקורה בנשק גרעיני.
ה- DIA יהפוך לנשק טרור. כמו כל רובוטים, הם יכולים לטעות, ומחיר שגיאות מסוג זה גבוה להפליא. המחבר משוכנע: אנו יכולים לשלוט בתהליך זה בעזרת הצהרות האו"ם והחלטות אחרות ברמה גבוהה, אם כי עד כה המצב הדוק.
סוף הערכים שלנו
מכונות אינן חולקות את הערכים שלנו, אלא מעתיקות את הדעות הקדומות שלנו. כשמתרגמים מאנגלית לגרמנית, גוגל תתרגם "גננת" במין הנשי, ו"מורה "במין הגברי.אותה גוגל לגברים מציעה יותר פרסום למקצועות בעלי שכר גבוה מאשר לנשים. עבור בעלי מק, אתרים מציעים מלונות יקרים יותר. מכוניות לומדות מנתונים מוטים!
בשנת 2015 ג'קי אלזין גילה שתמונות גוגל מזהות את ג'קי ואת חברתו כגורילה. הבעיה לא נפתרה בצורה פשוטה, וגוגל פשוט הסירה את סימן ה"גורילה ". המכונה לא יודעת מהן "גזענות" ו"עלבון "ואנשים מזניחים את הידע הזה. פייסבוק מכרה מודעות שמכוונות ל"מתנגדים יהודיים ". הוא מפרסם את המשרות הפנויות שלו בעיקר לצעירים ומוכר פרסום שמפלה קשישים.
כעת השירותים מספרים לנו ספרים, מכרים, מוצרים ... הבעיה היא שהטיה לא מבטלת כל כך בקלות. חלק גדול מלמידת המכונה הוא ההחלטה איזה סוג הטיה לתת לתוכנית. הדרך היחידה לצאת היא הטיה למשהו מקובל יותר.
כדי להפקיד את קבלת ההחלטות על AI, עלינו לנסח בבירור את הערכים שלנו. במובן זה, "תור הזהב של הפילוסופיה" אינו הזמן של אריסטו ולא העידן הקונפוציאני, הוא מתחיל עכשיו.
סוף השוויון
אנו חיים בתקופה מאושרת. לראשונה, מספר האנשים החיים בעוני קיצוני ירד מתחת ל -10%. מעל 90% מאוכלוסיית העולם מתחת לגיל 25 יכולים לקרוא. עם זאת, הפער בין השכבות התחתונות לעשירים התרחב משמעותית, ומעמד הביניים אינו מעורב בהעשרה. עד שנת 2062, אי השוויון בחברה יגבר ברצינות.
הרווחה מתרכזת לא רק בידי העשירים, אלא גם בחשבונות של תאגידים גדולים. הכותב עובר אמצעים שישנו את המצב לטובה: כוח על מנהלי חברות, רפורמות מיסים, הכנסה בסיסית אוניברסלית ... אמצעים אלה נראים קיצוניים, אך במציאות זהו רק המשך למה שאנו עושים כעת (חינוך ורפואה בחינם וכו ').
מאבק באי שוויון לא יהיה קל. זה ידרוש חלוקה טובה יותר של היתרונות שתביא AI לתאגידי טכנולוגיה גדולים.
סוף הפרטיות
בשנת 2013, אחד מיוצרי גוגל, וינט סרף, אמר: "החיים הפרטיים עשויים להיות לא תקינים", הם רק תוצר של המהפכה התעשייתית. זה נכון: בימי הביניים החיים, למשל, היו הרבה פחות פרטיים. ובכל זאת כיום אנו מרגישים קרובים למציאות של 1984.
הם מרוויחים בנתונים שלנו. הם אומרים כי נתונים הם נפט חדש, רק נפט הוא משאב יקר ומוגבל, בעוד נתונים אינם יקרים ואינם נדירים. והכי חשוב, נפט הוא בבעלות מדינות, ורוב הנתונים הם רכוש פרטי. וזה מסכן את פרטיותנו. עם זאת, גוגל ופייסבוק ממשיכים להתעשר עליהם.
עמק הסיליקון יודע מי אתה, איך אתה מצביע, מה הנטייה המינית שלך. העניין הוא לא רק בנתונים עצמם, אלא גם בקישוריות שלהם. כתובת השולח וגודל ההודעה לא יספרו לתוקף הרבה, הוא לא רואה את תוכן ההודעה. אך על ידי שילובם עם נתונים אחרים, תוכלו ללמוד רבות על מי אתם מדברים.
אפילו כשאנחנו לא מקוונים, הם עדיין עוקבים אחרינו. בשנת 2013 התגלה ש"פחי זבל חכמים "בלונדון עוקבים אחר טלפונים ניידים, ועד שנת 2062 כל העיר תצפה בנו. המעקב לא יסתיים אפילו בבית שלך: לא בלי סיבה שצוקרברג וסנודן אוטמים את המצלמה על מחשב נייד. בקרוב נפנה את מקומנו לפרטיות האנלוגית שלנו - ממש עד פעימות הלב שצמיד הכושר קורא.
הקליפות הדיגיטליות שלנו עוזרות לנו לשקר. אבל בעולם האנלוגי, קשה יותר לשקר - איננו יכולים לשלוט על פעימות הלב. דמיין מה הייתה יכולה לעשות מפלגה פוליטית אם הייתה לה גישה לנתונים על פעימות הלב שלנו. ואנחנו נותנים מידע כזה לחברות פרטיות.
האיום המדאיג ביותר על פרטיותנו הוא הדירוג החברתי שמתפתח בסין. אירופה ידועה גם היא, אך היא מעניקה תקווה לפרטיות בעתיד. במאי 2018 נכנסה לתוקפה תקנת הגנת המידע הכללית (GDPR). מטרתו העיקרית היא לאפשר לאירופאים להחליט על גורלם של נתונים אישיים בעצמם.
AI יכול להגן על פרטיותנו.עד שנת 2062 יהיה לסמארטפונים כוח מספיק כדי לתמוך באופן אוטונומי בכל התהליכים: על מנת לזהות את קולו של הבעלים, הסמארטפון לא יצטרך ליצור קשר עם גוגל. אם נקבל את הבחירה הנכונה, הפרטיות תהיה זכות המובטחת על ידי טכנולוגיה.
סוף הפוליטיקה
יש כבר לא מעט דוגמאות לאופן בו הטכנולוגיה משנה את מהלך המאבק הפוליטי: זכרו את מצרים או את טראמפ. יתר על כן, ההשפעה הגדולה ביותר ברשתות החברתיות היא לא אנשים, אלא מכוניות. לטראמפ יש 14 מיליון דפים כוזבים מתוך 48 מיליון עוקבים בטוויטר. לאפיפיור יש ביצועים גרועים עוד יותר: מתוך 17 מיליון מנוייו, 10 מיליון הם זיופים.
עד שנת 2062 יאבדו קולות אנושיים בקרב מחשבים.
אנו כבר יודעים שאי אפשר לסמוך על תמונות וסרטונים. עד שנת 2062 לא ניתן יהיה לסמוך על שום דבר שאנחנו רואים או שומעים, אם אנחנו לא נוכחים, לא נוכל להבחין בין פוליטיקאי אמיתי לבין שקרי. האם אנו רוצים למצוא את עצמנו בעולם בו לא זוכים רעיונות פוליטיים מוצלחים יותר, אלא אלגוריתמים טובים יותר?
סוף מערב
כיום גוגל מגיבה ל -8 מתוך 10 שאילתות חיפוש ברחבי העולם. אבל מנוע החיפוש הסיני באידו נמצא במקום הרביעי ברשימת האתרים הכי נצפים בעולם. האמזונס האמריקאית מוערכת בכ- 750 מיליארד דולר, והאליבאבא הסינית היא 500 מיליארד דולר והיא מתפתחת מהר יותר.
סין דורכת על עקבותיה. ממשלת סין מתכננת להפוך למובילה העולמית ב- AI עד שנת 2030. נראה שאין שום סיבה לפקפק בהצלחה. סין מפגרת מאחור בתחום זה זמן רב, אך מסתגלת במהירות לטכנולוגיות חדשות: היא כבר המובילה במספר התשלומים הניידים. לסין יתרונות רציניים במירוץ למען AI: היא לא מפריעה לפרטיות אזרחיה.
הסוף
אנו מתקרבים לנקודה קריטית בהיסטוריה האנושית. יש לנו כבר מספיק בעיות ואז יש AI. אך המחבר בטוח: אין צורך להסתגל לעתיד, זו תוצאה של החלטות בהווה, כך שנוכל לבחור בה.
אנו יכולים לשקול חוקים המגבילים בעלות על נתונים, ולהפוך פלטפורמות לאחריות לתוכן. עלינו להפריד בין תאגידים גדולים על מנת להחזיר את התחרות לשוק הדיגיטלי ולהכניס מיסים חדשים כך שתאגידים יחזירו את חובם לחברה. נצטרך להעביר חוקים האוסרים קמפיין פוליטי ברשתות החברתיות. מילות מפתח: אנו יכולים וצריכים.
אנו חיים הרבה יותר טוב מלפני מאה שנה, בזכות המדע. אבל לא רק שהיא שינתה את חיינו במאה העשרים. שינינו את החברה כדי להתמודד עם האתגרים שנוצרים בעקבות ההתקדמות. הגענו עם איגודי עובדים, חוקי עבודה וחינוך אוניברסאלי כדי שכל אחד יוכל ליהנות מההתקדמות. עלינו לזכור זאת בראשית מהפכה טכנולוגית חדשה.
