אימאל'ה, רובוטים עלינו !

למרבית האנשים בני-40 ומעלה נדמה לפעמים כי הם חיים בעולם של מדע-בדיוני וכי המציאות אליה נקלעו לקוחה אף היא מסרט בדיוני. הסיבה לכך נעוצה בעיקר בחשיפה למאות מכשירים אלקטרוניים שפותחו והחליפו את השיח והמגע-האנושי בכפתורים, מסכים, אפליקציות ושימוש בלתי פוסק בכלים חדשים שחלקם גם כבר גרם להתמכרות ולהפרעות נפשיות. מבלי לחוש בדבר ולהיות ערים לכך, מצאנו את עצמנו מוצפים ומוקפים באמצעים המשנים באופן קיצוני את המציאות בה אנו חיים, מבלי שנבחר בכך או נרצה בשינויים שנכפו עלינו. הפיתוח המטורף שהתחולל בתחום חקר ויישום הבינה המלאכותית כבר גרם מהפכה חסרת תקדים בהיקפה ברחבי העולם ויש מי שסבורים כי מדובר אף במהפכה גדולה הרבה יותר מהמהפכה-התעשייתית ששינתה את פני האנושות.

אחת התוצאות הבולטות של חקר ויישום הבינה-המלאכותית היא השתלטות הרובוטים על חיינו אף על-פי שבמרבית המקרים מדובר ברובוטים נעלמים מהעין אולם נוכחותם מורגשת היטב בכל תחומי החיים. הפיתוח הטכנולוגי של רובוטים מדהים את מי שעוקב אחר היקפו והמהירות בה הוא מתבצע, אף שלמעשה מדובר בהמצאה שכלל וכלל אינה חדשה.

כבר במאה ה-15 תכנן ליאונרדו דה-וינצ'י רובוט דמוי אביר ואילו בשנת 1737 בנה הצרפתי ז'אק דה-ווקאנסון צעצוע מכני עם חליל שניגן 12 מנגינות שונות ובשנת 1898 יצר ניקולה טסלה רובוט ראשון שנשלט מרחוק באמצעות גלי-רדיו. אבל עם כל הכבוד לממציאים הללו הוסכם לימים כי רובוט מוגדר כמכונה אוטומטית בעלת יכולת תנועה, הנשלטת על-ידי בקר-ממוחשב ועל-כן נקבע כי המכונה הראשונה אליה התייחסו כרובוט נבנתה בשנת 1926 על-ידי חברת 'ווסטינגהאוס' האמריקנית ואשר נקראה TELEVOX ועוצבה בצורת אדם, אף על-פי שעדיין נעדרה יכולת תנועה ולכן טרם נחשבה 'רובוט אמיתי'. בשנת 1949 המציא וויליאם גריי וולטר רובוט ראשון שנראה כמו צב שידע למצוא דרכו לבד ולמצוא מקור אור ובתחילת שנות ה-50 הוחל בפיתוח רובוטים תעשייתיים בארה"ב ואילו בשנות ה-60 החלה יפן להשתלט על תחום הרובוטיקה, עד שכעבור עשור כבר שולבו מאות רובוטים בקווי-היצור של התעשייה היפנית.

אגב המילה 'רובוט' הוזכרה לראשונה במחזה של הסופר הצ'כי קרל צ'אפק ( 1890-1938) בשנת 1920 כאשר הגדיר אותו כ- P.U.R או בתרגום-חופשי לעברית " הרובוטים האוניברסליים של רוסום'. המילה 'רובוט' לקוחה למעשה מהמילה 'רובוטה' בשפה הצ'כית שפירושה 'עבדות' או 'עבודת פרך' והוצעה לסופר הצ'כי על-ידי אחיו יוזף צ'אפק. לימים נקרא הרובוט דמוי-האדם 'אוטומטון' או 'אנדרומיד' (בעיקר בתחום המדע-הבדיוני) ומאוחר יותר הפך 'רובוט' גם לכינוי-גנאי לאדם הפועל בצורה מכנית ללא הפעלת רגש או חשיבה עצמאית.

הרובוט כבר הופיע בספרות כיצירה דמוית-אדם ב'גולם מפראג' אצל המהר"ל במאה ה-16 ואחר-כך בספרה של מרי שלי 'פרנקנשטיין' שפורסם בשנת 1818 אולם הגדיל לעשות הסופר הנודע אייזק אסימוב (1920-1992) שטיפל ביצירותיו ביחסי אדם-רובוט, במיוחד בספרו 'אני רובוט' (1950) ובפחד והרתיעה של האדם מפני מכונה שתקום על יוצרה וקרא לכך 'תסביך פרנקנשטיין'. הספרות והקולנוע אהבו לעסוק ברובוטים, ביכולות שלהם ובמקומם בחברה האנושית, עד כדי כך שרובוטים הפכו להיות גם סוג של גיבורי-תרבות כמו למשל בסדרת הסרטים 'מלחמת הכוכבים' כבעלי אישיות המקבלים החלטות עצמאיות ואפילו מביעים רגשות אנושיות.

על רקע הדברים הללו מובן כי הרובוטים כבר נמצאים עמנו זה זמן רב והם עוסקים בשלל תפקידים ומשימות, חלקם במקום בני-האדם. מעמדם של הרובוטים נקבע כמובן הודות לפיתוח טכנולוגי מואץ במיוחד בכל הקשור לבינה-המלאכותית, תהליך שממשיך להתרחש במאות מעבדות הפזורות ברחבי יפן וארה"ב לקראת עתיד מסובך ולא ברור מבחינה מוסרית, אתית וערכית, כפי שנראה בהמשך.

מה יודעים הרובוטים לעשות?

הרובוטים משמשים בתעשייה בקווי-יצור להרכבת מוצרים שונים כגון בתעשיית המכוניות או בהובלת מוצרים וניקוי פסולת רעילה. רבים מעובדי-הכפיים בתעשייה, כבר מצאו עצמם מובטלים בגלל רובוטים שהחליפו אותם ואשר מבצעים את עבודותיהם במהירות וביעילות גבוהה ובמחיר זול יותר, שלא לדבר על כך שלרובוטים אין איגודים-מקצועיים והם לא שובתים מרצונם ממלאכתם.

משקי-בית רבים כבר מעסיקים רובוטים במגוון משימות, החל מניקוי הבית, עבור בכיסוח הדשא, ניקוי ברכות-שחייה ומתן שירותים נוספים (עליהם נרחיב בהמשך כאשר נדון ב-'אלקסה').הרובוטים מבצעים בהצלחה רבה גם משימות של העברת משלוחים, הפעלת מחלבות ('שטראוס' בישראל) וכמובן עבודות מלצרות.

הרובוטים קידמו באופן משמעותי את חקר-החלל, עוד טרם הנחיתה על הירח בחללית הסובייטית 'סיוז' או בחללית האמריקנית 'אפולו' ולא מכבר בשנת 2011 כאשר פותח הרובוט 'קיוריוסיטי' לחקר כוכב-מאדים.

כוחות המשטרה והצבא עושים כבר שנים שימוש ברובוטים לסילוק פצצות, לפיצוץ מטענים חשודים וכן במל"טים ובמזל"טים שאינם אלא רובוטים מעופפים, חלקם בעלי חופש פעולה עצמאי. השימוש הצבאי-משטרתי ברובוטים חוסך כמובן חיי אדם ודי להזכיר את הרובוטים שהחדיר צה"ל למנהרות שנחפרו מכיוון עזה או לגילוי מנהרות מלבנון.

רובוטים ממלאים תפקיד מרכזי בכל הקשור לבקרת-טיסה, במגדלי-פיקוח ובטיסות עצמן וכך גם בהפעלת המערכת הבנקאית בעולם. קשה היום להעלות על הדעת כלכלה בנקאית עולמית ללא רובוטים.

עולם הרפואה נעזר ברובוטים בביצוע ניתוחים כלליים, ניתוחי-לב, סימולציות רפואיות ושיקום נפגעים. בתחום הננו-רפואה מדובר ברובוטים זעירים שתפקידם לבצע פעולות פנימיות ללא צורך בניתוחים או בפעולות חודרניות אחרות וראוי להדגיש כי בנושא זה מובילה מדינת-ישראל בעולם כולו.

לאחרונה פותחו רובוטים 'מזהי-פנים', המסוגלים לאגור מאות אלפי פרטי מידע על תווי-פנים של בני-אדם ולזהות אותם בתוך שניות אחדות לצרכים שונים, שכבר עוררו תסיסה והתנגדות בעולם, מחשש שמא יעשה שימוש לא חוקי במידע הזה.

הסקירה הקצרה הזאת לא נועדה אלא להדגיש את העובדה לפיה הרובוטים כבר תפסו תפקיד מרכזי בחיינו ואין להם כוונה להיעלם אלא ההפך הגמור מכך!.

צריך לזכור כי לב-ליבו של הרובוט מבוסס על אלגוריתמים (דרך שיטתית וחד-משמעית לביצוע פעולה מסוימת במספר סופי של צעדים. מקור המילה 'אלגוריתמים' בהטיה משובשת של שם מתמטיקאי ואסטרונום פרסי בן המאה ה-9 מוחמד אבן-מוסא אל-ח'ווארזמין). האלגוריתמים משמשים גם מרכיב מרכזי בכל הקשור לבינה-המלאכותית ומכאן חשיבותם הרבה בעולם הרובוטיקה. בעניין זה כבר הוכיחו מחקרים כי הבינה-המלאכותית משנה מערכות יחסים במקומות עבודה והתוצאה היא כי 64% מהעובדים סומכים יותר על הרובוט מאשר על מנהליהם האנושיים!. מבחינה פיזית הרובוט נמצא כאן כבר מזמן, נוהג, פותח דלתות, מנקה, מנתח ומבצע כמעט את כל המשימות האנושיות ביעילות מדהימה. העניין המרכזי נמצא בשאלה הקוגניטיבית:

האם מסוגל הרובוט להבין? להתקשר? להרגיש? נכון שיש כבר רובוט שמזהה את מפעיליו ואת הקשר ביניהם ואפילו עונה לצורכיהם, אבל עדיין לא ברורה מידת יכולתו הקוגניטיבית. המגמה הקיימת כיום היא לשכלל רובוטים ולהביא להגדלה והרחבה של עצמאותם ותחומי מעורבותם. כבר קיימת במקומות רבים אינטראקציה בין רובוטים לבני-אדם אבל עדיין אין מקום לדבר על יצירת תודעה-רובוטית עצמאית, בעיקר משום שאין לאיש מושג מה זאת תודעה!

בתוך כך ראוי להזכיר גם את 'הרובוטיקה האבולוציונית', מדובר בתחום חדש יחסית העוסק בתכנון רובוטים בהשראת האבולוציה הביולוגית (בישראל עוסקים בכך באוניברסיטאות בן-גוריון ותל-אביב). הרובוטיקה האבולוציונית מתבססת על ניסוי המתבצע ברובוט אחד שזוכה לניקוד על ביצועיו ולאחר-מכן מדרגים וממינים את הרובוטים בהתאם לניקוד שצברו ואז משנים ומערבבים אותם באמצעות התכנה ומנסים את הרובוטים החדשים 'שנולדו' כתוצאה מכך.

האם נושא הרובוט באחריות מוסרית או משפטית?

אלא שמעל ומעבר לכל הדברים הללו ראוי להתייחס ברצינות גמורה לבעיות האתיות-מוסריות-משפטיות שנוצרו בעקבות הרובוטיזצייה המתקדמת ואף לנסות לבחון מה צופן לנו העתיד במישור זה.

וירוס-מחשבים עלול למשל 'להחליט' לכבות את החשמל ולשנות בבת אחת ובאופן מפתיע את מערכת התחבורה ולגרום עקב כך תוהו ובוהו שיתכן גם להסתיים באסון.

רובוט-רפואי עלול 'להחליט' למשל כי לא כדאי להשקיע יותר בחולה מסוים שעתיד למות בקרוב וזאת משיקולי עלות ותועלת עליהם הוא מופקד.

שתי הדוגמאות האלה מציגות מצבים בהם יש לרובוט סוג של אוטונומיה לבחור דרך-פעולה והוא נוקט בה בהתאם 'לשיקוליו'. מי נושא באחריות לתוצאות? האם אפשר בכלל לבוא לרובוט בטענות או אפילו להעמיד אותו לדין?!

יש כבר צבאות שעלה בידיהם ליצור 'רובוט רוצח', מעין מכונה שהורגת על דעת עצמה מבלי כמובן לחוש כאב או רגשות משום שהיא מבצעת את תפקידה בהתאם לתוכנה המפעילה אותה ושוב נשאלת השאלה: מי נושא באחריות לחיסול הקרבן הלא-נכון? המתכנת? המפקד? או אולי הרובוט עצמו?

'אלקסה' היא סייעת וירטואלית שפותחה על-ידי הענקית 'אמזון' והוצגה בשנת 2014 כרובוט ידידותי. 'אלקסה' כבר נמצאת במיליוני בתים ברחבי העולם והיא יודעת לנהל שיחות, להכין רשימות, להשמיע סיפורים ומוסיקה ושעון מעורר, להציג את מצב התנועה ואת מזג-האוויר והחדשות ולהזמין מוצרי-מזון והכל מתוך שליטה בהפעלתה על-ידי השמעת המילה 'אלקסה'. הרובוט הזה הפך להיות סוג של בן-משפחה אהוב ומקובל וממשיך להתפתח באמצעות כ-5000 מדענים השוקדים על המשך פיתוחו. אלא שלא מכבר התברר כי 'אלקסה' הקליטה בחשאי שיחה פרטית בין בני-זוג באורגון ארה"ב ושלחה את ההקלטה למכר של המשפחה. חברת 'אמזון' הגיבה לתקלה המדאיגה הזאת כאשר הגדירה אותה כ'צירוף מקרים'. אבל זמן קצר אחר-כך התברר כי 'אלקסה' הקליטה ראיות חיוניות לחקירת נסיבות מותה של צעירה, אשר נמצאה מתה בדירת בן-זוגה והמשטרה הוציאה צווים לקבלת ההקלטות שביצעה 'אלקסה'. שני המקרים הללו הבהירו כי ל'אלקסה' ניתנה עצמאות-יתר וכי חרגה למעשה מתחומי 'אחריותה', מה ששוב העלה את הדיון בדבר האחריות המשפטית לביצוע הפעולה, שלא לדבר על האחריות האתית והמוסרית.

פרופסור דניאל וייס 'ראש התכנית הטכניונית למערכות אוטונומיות על תחום הרובוטיקה בישראל ובעולם' הציג בשנת 2015 סדרה של שאלות מטרידות וכתב: " כאשר הרובוט יפתח אתיקה ומוסר, יתעוררו שאלות משפטיות של אחריות ובהן האם הרובוט אחראי לגמרי על מעשיו? כאשר יפגע מטוס ללא-טייס באנשים כתוצאה מהפעלת רובוט, מי יישא באחריות? איזו ישות משפטית יש לרובוט? האם יכול להיות מצב בו יהיה למשל רובוט לא שפוי?".

השאלות של פרופסור וייס נותרו עד כה ללא מענה וזאת בעיקר משום שהמחוקק בארץ ובעולם מפגר אחר ההתקדמות הטכנולוגית. החקיקה והרגולציה בנושא רובוטיקה רחוקים עדיין שנות-אור מלהעניק תשובות ופתרונות לבעיות מסובכות העלולות להתעורר מפעילותם של הרובוטים, במיוחד במצבים בהם קם הגולם על יוצרו...

זווית מיוחדת לסוגיה הזאת העניק האתיקן מייקל גיי רובילאר כאשר טען כי " אנחנו אחראים על מעשיו של הרובוט ועלינו לבדוק אם הקוד על-פיו פעל הרובוט חוקי או לא? האם הקוד מאפשר לרובוט להבחין בין מטרות אסורות לבין מטרות מותרות? בכל מקרה, הרובוט מבצע את מה שאנו רוצים ממנו ועל-כן אנחנו נושאים באחריות".

הגישה הזאת מחזיקה-מים כל עוד מדובר ברובוטים העושים מלאכתם נאמנה, בהתאם להנחיות הממוחשבות שהם מקבלים, אבל בקרוב יתאפשר לרובוטים רבים יותר לקבל החלטות עצמאיות והם יפעלו על-פי 'שיקול-הדעת' שלהם, מה שיציב את השאלות המוסריות-ערכיות-משפטיות במבחנים קשים ומסובכים.

למרות ההתקדמות המהירה והמפליאה של פיתוח הרובוטיזציה, נוכל להתנחם אולי בכך, כי כאשר הם ישלטו כמעט לחלוטין בחיי בני-האדם, כבר לא נהיה כאן להעיד על כך.

מה יקרה כאשר תהיה לרובוטים אוטונומיה מוחלטת לקבל החלטות? שלא נדע...