פרוייקט קארנגי מאלון להשמדת החברה האנושית

אנשים העוסקים באתיקה של המדע והטכנולוגיה מגלים לעיתים נטיה להקדים את הטכנולוגיה עצמה באופן בלתי רלוונטי. כך למשל היו כבר מי שדנו באופן מעמיק בכללי אתיקה לרובוטים, בין השאר במטרה למנוע פגיעה של רובוט באדם ואף להגן על האנושות מפני השתלטות אפשרית של יצירי כפיה. כללים מסוג זה עדיין מעלים אבק בהמתנתם רבת השנים לרובוטים בעלי אינטליגנציה רלוונטית, אשר גם לאחר עשרות שנים עדיין מבוששים להגיע. דוגמא נוספת היא תחום הגנטיקה האנושית, שגם בה יש הממהרים לדרוש מערכת כללים אתיים אשר תגן על האנושות מפני "בייבי-בום" של תנוקות בלונדיניים עם עיניים כחולות שיגדלו לגובה של ארבעה מטרים. העוסקים בתחום יודעים שהדחיפות הפונקציונלית של כללי אתיקה מסוג זה שווה בערך לדחיפות של ניסוח חוקי תעבורה למסעות חלל בין-פלנטריים. לאחרונה היו גם שהרהרו בקול רם על כובד האחריות הנמצאת בידיהם של המדענים העוסקים בניסויים במאיץ החלקיקים CERN, אשר לדעתם היה עשוי ליצור חור שחור אשר ביכולתו להשמיד את כדור הארץ.

 

אבל בין כל הסכנות שמרחפות על עתיד האנושות בעיקר בספרי מדע בדיוני, הולכת ונבנית לה מכונת יום דין אמיתית אשר מאיימת על עתיד האנושות כפי שאנחנו מכירים אותה. כמו בזמן פיתוח פצצת הגרעין, נראה שגם עכשיו נרדמו אנשי האתיקה בשמירה והם מתירים לזוועה הטכנולוגית הזו לקרום עור וגידים, ואין איש פוצה פה ומצפצף.

 

המכונה נבנית לה בימים אלה באונ' קארנגי מאלון היוקרתית, ותפקידה הוא, לא פחות ולא יותר, לקרוא מחשבות. בניגוד לרובוטים בעלי תודעה עצמית, מכונת קריאת המחשבות היא דווקא פשוטה באופן יחסי, וזה אולי מה שהופך אותה למסוכנת כל כך. המכונה מבוססת על טכנולוגיה של fMRI, המסוגלת למדוד את הפעילות הנוירוינית במוח. הנתונים מנותחים על ידי מחשב, אשר באותות ובמופתים של זיהוי תבניות מסוגל לזהות את המחשבה על פי המתרחש בתוך המוח. אמנם ה-fMRI לא "רואה" הרבה ממה שבאמת קורה במוח, וגם טכנולוגיית זיהוי תבניות בהרבה מקרים עדיין לא הגיע למצב אופטימלי, אבל בפועל נראה שהמכונה כבר מראה תוצאות מבטיחות למדי.

 

כדי לבדוק את יעילות קריאת המחשבות נערך ניסוי שכלל תשעה נבדקים (סטודנטים, כמובן), אשר נחשפו ל-60 מילים (פעלים) ולתמונות שונות בזמן שקורא ה-fMRI עוקב בדריכות אחרי כל תנועה נויירונית ושומר את הנתונים במקום בטוח. לאחר מיכן נחשפו הנבדקים שוב למילים אשר לא נחשפו אליהן קודם, והמכונה נדרשה למיטב המאמצים על מנת לנחש את המילה אליה נחשף הנבדק. כדי לעשות זאת, נובר אלגוריתם לזיהוי תבניות בנתונים שנאספו בזמן שהנבדק נחשף לקבוצות המילים השונות, ומחפש את קבוצת המילים שהיא הקרובה ביותר למילה אליה הוא נחשף בזמן הבדיקה. מתוצאות הניסוי עולה שבכ-77 אחוז מהמיקרים הצליחה מכונת המחשבות לזהות את המילה אליה נחשף הנבדק. כל זאת, כאמור, רק על ידי קריאת נתוני ה-fMRI הישר ממוחו. טבעו הפשוט יחסית של הניסוי משאיר מקום רב לאופטימיות בהקשר של שיפור הדיוק של המערכת, ולא מין הנמנע שקריאת מחשבות ברמה מסויימת תהיה זמינה כבר במהלך העשור הבא.

 

מיותר לציין שיישום של הטכנולוגיה הזאת והפיכתו לזמין למשקי הבית מעמיד את עתיד האנושות בסכנה ממשית, וזאת מישום שספק רב עם האנושות תוכל להתקיים כאשר ידע כל אחד מאיתנו מה באמת חושב עליו זולתו. הרי כיצד יוכלו אנשים לשתף פעולה כאשר כל אחד מהם יודע מה באמת חושב חברו על התספורת החדשה שלו או על מידת ההצלחה של הדייטה בה פצח לאחרונה? כיצד יוכל המנהל לכלכל את העניינים שבתחום אחריותו כאשר הוא יודע מה באמת חושבים העובדים תחתיו על מידת האינטיליגנציה שלו ואיכות קבלת ההחלטות שלו? כיצד יוכלו להתקיים חיי זוגיות כאשר כל אחד מבני הזוג יודעים מה באמת חושב כל אחד מהם כאשר הם מביטים בדמות נאה בטלוויזיה או בכרזת פרסומת מזמינה? הרי כמעט כל מערכות החיים ישתבשו באופן מיידי אילו אנשים באמת היו יכולים לדעת מה חושב איש על רעהו. וזה עוד בלי להזכיר את המלחמות הנוראיות שיפרצו אילו עמי העולם ידעו מה באמת חושבים עליהם העמים השכנים. אם עד היום קשה היה למנות את הישגיהם של העוסקים באתיקה של הטכנולוגיה ותרומתם לחברה האנושית, לדעתי הניסוי של קארנגי מאלון מעניק להם הזדמנות פז להצדיק את קיומם.

מודעות פרסומת
Post a comment or leave a trackback: Trackback URL.

תגובות

  • גיל  On יולי 6, 2009 at 7:22 am

    בשלב הביניים כאשר המכונה אכן תדע לקרוא מחשבות אבל עלותה האסטרונומית תאפשר רק לממשלות עשירות להחזיק אותה ואת צוות המהנדסים היוקרתי המתחזק ומפעיל אותה – או אז, תוכל אותה מדינה לשפוט משפט צדק, לחסוך מעצמה עינויים של חשודים ועוד מיני דברים שהקונטקסט הכללי שלהם חיובי מאוד בעיני.

    עד שזה יגיע למשקי הבית … אני חושב שיש קצת זמן.

  • ליאור  On יולי 6, 2009 at 7:39 am

    ברור שהגזמתי מבחינת משקי הבית. fMRI אלחוטי שמסוגל לעבוד ממרחק עדיין לא קיים, ועל המחיר שלו אין בכלל מה לדבר.

    אם נשווה לנשק גרעיני, ברור שעדיף שהטכנולוגיה תהיה בידי ממשלות ולא בידי אנשים פרטיים. אבל למרות השימושים החיובייים שאפשר לעשות עם טכנולוגיה כזאת, לאפשרות שלממשלות תהיה יכולת לקרוא את מחשבות האזרחים יש גם אלמנטים כבדי משקל שהם פחות חיוביים.

  • גיל  On יולי 6, 2009 at 8:30 am

    רחוק היום שבו יקראו מחשבות ממש. מה שעשו פה זה לחשוף אנשים באופן מבוגר למילים ספציפיות וזה לא ממש דומה לקריאת מחשבות. כשזה מגיע לחוויות אנושיות יש בעייה קשה להבדיל בין חווייה שאכן קרתה או מחשבה עליה. למשל, קשה להבדיל בין פגישה עם אדם ספציפי לבין מחשבה עליו. מעבר לכך, מי יסכים לשבת תחת הfMRI כדי שיקראו את מחשבותיו כדבר שבשגרה?

  • ליאור  On יולי 6, 2009 at 8:42 am

    הרי לא צריכה להיות הגבלה למספר מילים. מספיק לקשר פגישה עם אדם ספציפי לאוסף מילים כמו אוהב/שונא/חכם/טיפש/יפה/מכוער, והנה הרבה ממה שפלוני חושב על אלמוני נחשף.

  • חובבן  On יולי 6, 2009 at 12:31 pm

    הנסיון מראה שפרטיות היא בעדיפות נמוכה מאד אצל רוב האנשים.
    אם היית שואל לפני שנים ספורות, מי יסכים שידעו בכל רגע ורגע את מיקומו המדוייק? והנה, כשהטכנולוגיה הגיע, רבים מעדכנים את מיקומם דרך אפליקציות על הסלולארי בלי חשש.
    בצורה דומה הסכמנו לידע את כל העולם אם אנחנו ליד המחשב, או באוטו וכו' דרך אפליקציות כמו
    ICQ, Facebook, Twitter
    וזאת רק ההתחלה.
    אינ בהחלט רואה שליטה על המחשב בעזרת מתקנים "קוראי מחשבות" למינהם, אם או בלי דיווח מידי ברשת.

  • ליאור  On יולי 6, 2009 at 4:51 pm

    מסכים איתך, אלא שבנוסף לכל הצרות האלה יש גם דברים שנעשים גם בלי הסכמת האזרחים, באמצעות חקיקה. דוגמא אחת היא הזיהוי הביומטרי לשימוש במחשב, שאנשי שלטון מובילים מדברים עליו ברצינות תהומית.

  • אהוד  On יולי 7, 2009 at 6:14 pm

    לטעמי קריאת מחשבות עוד נמצאת הרחק מעבר לאופק אם היא בכלל בגדר האפשר. לשם המחשה ניקח את המחשב הביתי, לכל הדעות מכשיר פשוט בכמה מונים מהמוח האנושי ובכל זאת אם ננסה רק מקריאת האותות החשמליים הזורמים בו להגיד אילו תוכניות רצות בו המשימה נדמת כבלתי אפשרית.
    ברמות מסוימות כמובן חשיפת מידע מוסתר בדרך כלל הינה אפשרית טכנולוגית לדוגמא הפוליגרף אבל מכאן ועד לקריאת מחשבות הפער הוא אדיר.

  • ליאור  On יולי 8, 2009 at 4:34 am

    אני לא בטוח שהדוגמא של המחשב היא רלוונטית למקרה הזה. העובדה שהמוח היא מורכב יכולה גם לעזור לקריאת מחשבות כי הפעילות מבוזרת על פני חלקים שונים של המוח, והאינטרקציה בינהם מגבירה את הפעילות שיכולה להקרא על ידי fMRI. עובדה שהם מצליחים כבר עכשיו לדעת על איזה מילה אדם חושב. אני לא רואה מה אמור לחסום את הטכנולוגיה הזאת מלהתקדם הלאה. כל הרכיבים הדרושים לקריאת מחשבות ברמה בסיסית כבר קיימים. צריך רק לחבר אותם ביחד למערכת אחת. זה לא מעט עבודה, אבל החסמים הטכנולוגיים לא נראים לי גבוהים.

  • אהוד  On יולי 8, 2009 at 10:11 pm

    כדי להדגים את דברי על הקשיים העצומים ואולי אף הבלתי עבירים בקריאת מחשבות אתן דוגמא נוספת. הבעיה הפשוטה לכאורה של תרגום משפה לשפה היא בעיה שטרם נמצא לה פתרון, כדי לבצע תרגום טוב יש להבין את התרבות מאחורי השפה ואת ההקשרים. כעת נניח כי מכונה כלשהי מסוגלת לקרוא בדיוק גבוה את הפעילות החשמלית במח (גם בכך אני מטיל ספק גדול) התרגום מאותות למחשבות הוא בסדרי גודל מורכב מהתרגום בין שפות ואז ההקשרים הלוקליים בהנחה שאנו חושבים באותו אופן ימנעו קריאת מחשבה. יש לציין כי הניסוי שנעשה הוא טריויאלי במובן זה מבין אוסף סמלים סופי יש לזהות את הפעילות החשמלית המתאימה לתבניות דומות. מה לגבי ניסוי אסוציאטיבי שבו יאמרו לנבדק מילה וינסו לחזות מה המילה שיחשוב עליה יש להניח כי גם במבחן זה תהיה הצלחה גדולה למרות שלא מדובר בקריאת מחשבות אלא בשתילתן.

  • ליאור  On יולי 9, 2009 at 3:34 pm

    יש ספק גדול מאוד עם מחשבה מבוססת על שפה. בכל מקרה, כדי לקרוא מחשבה לא צריך לתרגם אותה מילה במילה (אם בכלל היא מורכבת ממילים, כאמור). על פי מילות מפתח שמתארות את התגובה של האדם לסיטואציה או לגירוי מסויים ניתן להגיע לאינפורמטיביות לא רעה בכלל.

  • אורי  On אוגוסט 16, 2009 at 5:43 pm

    אני לא בטוח למה.
    הם מזכירים לי סוג של עלוקות, מן פסדו-פילוסופים כאלו שלא באמת מסוגלים לסיים שנה ראשונה בפקולטה לפיזיקה מבלי להיכשל בכל המבחנים, אבל שמחים לנהל דיונים ארוכים ומשעממים על דברים שהם אינם מבינים.

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s

%d בלוגרים אהבו את זה: