כל סיפור מדע בדיוני דיסטופי שמתאר השתלטות ובסופו של דבר השמדה של הגזע האנושי על ידי אינטליגנציה מלאכותית, מתחיל בציון התאריך המדויק בו המחשבים/הרובוטים/המכונות זכו למודעות עצמית והחלו לפעול על דעת עצמם.
בסיפור המד"ב הדיסטופי שהוא העולם בו אנו חיים, התאריך הזה היה ה-1 בינואר, 2004, מועד ההשקה של פרויקט ECAgents, שמבקש ליצור "מכונות שמתפתחות בכוחות עצמן, ללא התערבות אנושית". הפרויקט מתרכז בפיתוח יכולת לשונית אנושית ברובוטים, שתאפשר להם ליצור שפה עם אוצר מילים וכללי תחביר, וללמוד אותה באופן עצמאי לחלוטין. אם השפה היא המפתח לתודעה האנושית, הרי שזהו המפתח לתודעה מלאכותית ברובוטים.
הפרויקט אמנם עובד עם רובוטי-צעצוע מסוג Aibo של Sony, אבל לא קשה לתאר תרחישים שבמסגרתם הטכנולוגיה תשתלט על מחשבי הפיתוח, מחשבים ומכשירים שמחוברים אליהם ברשת המקומית, ועל כל מחשב שמחובר לאינטרנט. מכאן קצרה הדרך להנחלת כאוס מוחלט בקנה מידה בינלאומי, החל משיתוק מעליות ועצירת רמזורים, וכלה בשיגור טילים גרעיניים. תמיד ידעתי ש-Sony תהיה אחראית ליום הדין.
בסופו של דבר, אם זה לא יהיה זה, אז הג'יפה האפורה תגמור אותנו.
זה נשמע לי מסוג הדברים שבגללם (או ליתר דיוק, בגלל מחשבות על דברים מסוגם) הגעתי לעסוק בבלשנות (אחרי הכל, איך נדע לבנות רובוטים שמתקשרים באמצעות שפה אם לא נבין מה זה בעצם שפה ואיך היא עובדת?).
אני חייב להגיד שככל שההבנה שלי בתחום הבלשנות התפתחה, כך גם התפתחה הסקפטיות שלי לגבי סיכויי ההצלחה של פרוייקטים מהסוג הזה, מעבר לתחומים מאד מוגבלים. ככל שאתה יודע יותר על שפה, ככה אתה גם מבין עד כמה מעט אתה באמת מבין…
הייתה סידרת טלוויזיה – האודיסאה 5 שעסקה בנושא הזה. פרוייקט שהתחיל בתור סביבה וירטואלית שבודק אבולוציה של אלגוריתמים והסתיים בהתפוצצות כדור הארץ.
אבולוציה של AI לא חייבת להיות קשורה בשפה ואפילו לא בתודעה באופן שאנחנו תופסים אותה או במודעות עצמית. בסיפורי המד"ב תמיד מדברים על AI שמחליט להשמיד את הגזע האנושי מסיבה זו או אחרת. לדעתי אפשר להסתפק בפחות מזה – סתם בטעות באלגוריתם, מין מוטציה אלגורית אם תרצו. אני חושב שהסכנה מתחילה כשמשלבים מנגנוני ייצור עם רשתות תקשורת. מהבחינה הזאת אנחנו כבר שם.
תנסה להסביר לרובוטים מה זה בדיוק תיאורמת ה-PRO ומה ההבדל בין פרו גדול לפרו קטן…