דיון על רכב אוטונומי, לרגל מאורע היסטורי

[נמרוד]

אתה כתבת:

אבל זה מחזיר אותנו לכלל היסוד הכי יסודי:
לבנאדם מותר לטעות ולרובוט לא.

אתה טוען שאנחנו "חוזרים" לכלל הזה, שהוא יסודי, כאילו שהוא ברור מאליו. אני לא מכיר את הכלל הזה.

אם אתה לא המצאת אותו אז בבקשה, הרחב, מאיפה הכלל הזה? מה עומד מאחוריו? ואם זה כן כלל שאתה הממציא שלו, על אחת כמה וכמה, אנא נמק והסבר.

[דרור ברלי]

הכלל הוא שלי. זו דעתי.
אבל אם תבדוק תגלה שאולי הרבה אנשים מסכימים איתו. אולי אפילו רוב.
בנאדם עלול לטעות. אבל בנאדם גם לומד מטעויות. גם מטעויות של בני אדם אחרים.
רובוט כשל? הוא לא מבין שכשל. נאום תוכחה נוקב לא ישפיע עליו. זו רק תקלה במכונה. באג. ובהחלט יש מצב שכל הרובוטים מאותו סוג ייכשלו באותה סיטואציה בדיוק. לכן אי אפשר לקבל את זה בהבנה או סלחנות.


עובדה שבאירופה, רכבי הניסוי האלה עדיין מוגבלים למתחמים סגורים.
האמריקאים יותר ליברלים בנושא הזה. או "מעיזים" יותר - ומאפשרים לרכבי הניסוי לעלות לשלב הבא ולנסוע על כביש ציבורי (כל אחד יכול לשפוט את זה כראות עיניו. בהנחה שאני חובב קונספירציות, אז לטעמי יש מקום לבדוק ולחקור, האם בצע כסף, כלומר שלמונים למי שנותן את האישורים, לא מעורב ב"תעוזה" הזו).

[אומי5]

ההבדל הוא בדיוק זה. רובוט טועה רק בגלל שבן האדם שתיכנת אותו טועה. ההבדל הוא ששורת קוד צריך לתקן פעם אחד ולשלוח עדכון לכל הרובוטים. וממחר אף רובוט מאותה תוצרת לא יטעה שוב באותה טעות.


Sent from my SM-N920C using Tapatalk

[דרור ברלי]

זה כמובן קצת יותר מורכב מ"רק שורת קוד" ודווקא כן מצריך קירקוע מקיף ובדיקה/עדכון של כולם.
העניין הוא שכשבנאדם טעה, אפשר לנזוף בו ולדרוש ממנו "להיזהר יותר" והוא יפנים ויבין.
מרובוט אתה יכול לבקש עד מחרתיים. זה לא יעזור. צריך לטפל בו.

כמובן ברגע שהוא יבין דברים לבד ויתקן את עצמו בכוחות עצמו, הוא כבר לא יצטרך אותך.
בשלב הבא אתה תהיה גורם מעיק ומפריע מבחינתו.
ואז, ברגע שיוכל, הוא ייפטר ממך.

[נמרוד]

כשמכונת משקעות בולעת לך את העודף, זה מפר את הכלל היסודי שלך?

כשהמחשב שלך קורס ומוחק לך שעה של כתיבה?

כשפין אבטחה של מנוע ג'מבו נכשל והמטוס מתרסק על כל נוסעיו, זה מפר את הכלל היסודי?

כשמצערת חשמלית של מכונית רגילה נתקעת וגורמת לתאונה?

כשלסופה שלך היה חור ברדיאטור ונאלצת לחזור הביתה ולהפסיד טיול, היא הפרה את הכלל היסודי שלך?

מה שונה?

[דרור ברלי]

כשמכונת משקעות בולעת לך את העודף, זה מפר את הכלל היסודי שלך?

כשהמחשב שלך קורס ומוחק לך שעה של כתיבה?

כשפין אבטחה של מנוע ג'מבו נכשל והמטוס מתרסק על כל נוסעיו, זה מפר את הכלל היסודי?

כשמצערת חשמלית של מכונית רגילה נתקעת וגורמת לתאונה?

כשלסופה שלך היה חור ברדיאטור ונאלצת לחזור הביתה ולהפסיד טיול, היא הפרה את הכלל היסודי שלך?

מה שונה?

הו. שאלה מצויינת.

מכונת משקאות נתקעה = הלכו 5 שקלים. סיננתי קללה.

מחשב קרס = נמחקה שעה (או 8 שעות) של כתיבה.
מצד שני לא נורא, כי ניתן לשחזר מסמכים. אבל אם איבדתי עבודה של כמה שעות זה פאק שלי נטו, אם לא לחצתי SAVE כל שתי דקות.

חור ברדיאטור של הג'יפ = או שתחתוך את הטיול באמצע, או שתתקן את הרדייאטור. אם אתה מיומן ומצויד (במקרה הזה בארגז כלים ופלסטלינה אפוקסית) אתה ממשיך בטיול ולא קרה כלום.



ועכשיו לשתי הקושיות היותר בעייתיות:

מצערת נתקעה וגרמה לתאונה. כמה מצערות מפוקדות כבל כמו פעם נתקעו? מעט מאוד. התקלה נפוצה יותר במצערות אלקטרוניות מודרניות. קצר פשוט. כמו שהיה במצערות של טויוטה שניסו להסתיר.
לצאת מהמצב הלא נעים הזה, זה בתכל'ס מאוד קל - רק להעביר מ-D ל-N ולעצור בצד. אבל נדרשת כאן תושיה וקור רוח ומינימום של מיומנות. כל הנהגים בתאונות של תקלת מצערת היו מאוד לא מיומנים. אז הם מתו. ועדיין - בתיאוריה, נהג סביר יוצא מזה בשלום.
אבל זה יכול לקרות גם במכונית אוטונומית. גם בחשמלית. ואז מי יתערב וישלב במקומך לניוטרל?

ושאלת השאלות: הפין במנוע של הג'מבו.
באמת מי הפר את הכלל?
האם רשימת הבדיקות לפני המראה כוללת את בדיקת הפין הזה?
האם יש כלל שמחייב החלפת הפין הזה כל X שעות/חודשים/שנים?
בתאונת מטוס אלעל באמסטרדם ב-92' אכן נשבר פין אבטחה של מנוע והמטוס נפל על שכונה והרג 40 איש. באותה מידה יכלו למות שם עוד 400 איש אם זה לא היה מטוס קארגו אלא ג'מבו-נוסעים רגיל. לפי הפרסומים ולפי "תעופה בחקירה", הכשל היה סדק מיקרוסקופי בפין האבטחה של המנוע.
מי יכל לראות את הסדק הזה?
מי התרשל?


בתאונות מטוסים נהרגים הרבה פחות מבתאונות דרכים. אבל מטוסים גם מקבלים תחזוקה הרבה יותר קפדנית ממכוניות. ואחרי כל תאונת מטוס מקרקעים את כל המטוסים מאותו דגם עד שהתאונה נחקרת ונבדקת.
למה למכונית אוטונומית אתה נותן הנחה ולאווירון לא? בגלל פוטנציאל הנזק החד-פעמי?

כרגע יש מכוניות אוטונומיות בודדות בשלב הניסוי. שכולל גם הרבה תעיות וטעויות אבל זה בסדר, כי בשביל זה יש שלב ניסוי.
בעוד 5 שנים יהיו הרבה כאלה על הכביש ובעוד 10 שנים יהיו המון כאלה. וזה כבר לא יהיה ניסוי אלא תכל'ס.
אם יהיו באגים, אנשים ימותו. אולי פחות מאשר היום בנהיגה אנושית, אבל עדיין ייפגעו וימותו. וחלקם ימותו בתאונות על רקע בעייה אתית - הרובוט יצטרך להחליט את מי הוא מציל ואת מי הוא הורג.

אוקצור - לטעות זה אנושי.
אבל אתם רוצים שרובוטים יתפסו את מקומם של בני אדם. ואני חושב שלרובוט, שמתיימר לתפוס את מקומם של בני אנוש ולעשות הכל טוב מהם, אין ולא צריכה להיות הפריבילגיה הזאת, לטעות. כי אני לא צריך רובוט שטועה. לטעות אני יכול בעצמי גם בלי רובוטים על הראש.

ואתה תוכל לנפנף בסטטיסטיקות עד מחרתיים, עד שזה יכה במישהו שקרוב אליך. ואז כבר לא תהיה סלחן לזה.

או שדווקא כן. ואז לא נותר לי אלא להצטער בשבילך ובשביל הקרובים אליך, כי הטכנולוגיה יכולה לגרום ללא מעט אנשים להיות קהי חושים ופחות אנושיים. או אפילו לא אנושיים בכלל. כולי תקווה שגובה שלמוני האקזיט לפחות שווה את זה...

[shachar]

אתם מזכירים את עולם התעופה.

למרות יכולת מוכחת של מלטים. וטייס אוטומטי שקיים שנים.

המכונית האוטונומית תקדים את המטוסים בהובלת נוסעים?

Sent from my SM-N950F using Tapatalk

[נמרוד]

נשבע לך דרור, אני לא מבין אותך.

אם מישהו נהרג, אז הוא נהרג, כמו שאתה אומר. זה משנה אם בגלל טעות אנוש ישירה של דודה שיושבת על ההגה, או בגלל טעות אנוש עקיפה בתכנון או תכנות או בנייה או תחזוקה של מכונה? באותה מידה, זה משנה אם טרוריסט דרס אנשים ישירות עם משאית או השתלט עליה מרחוק?

הטכנולוגיה בתחבורה מורידה את המספרים של ההרוגים בתחבורה, ומעלה את היעילות שלה. זה הכל.

המטרה אחת - לשנע אנשים ודברים מהר יותר ובזול יותר ממקום למקום, עם פחות ופחות נפגעים.

[ד ו ר ו ן]

ההבדל הוא בדיוק זה. רובוט טועה רק בגלל שבן האדם שתיכנת אותו טועה. ההבדל הוא ששורת קוד צריך לתקן פעם אחד ולשלוח עדכון לכל הרובוטים. וממחר אף רובוט מאותה תוצרת לא יטעה שוב באותה טעות.


Sent from my SM-N920C using Tapatalk

ההבדל הוא שמה שלא הכנסת למכונה בקוד היא לא תדע אף פעם להכניס כשיקול מול אי-וודאות או תרחיש חדש.
או במילים אחרות, כמה אנשים יידרסו כדי לסמלץ את כל התרחישים האפשריים?

בנאדם יכול להסיק מסקנה חדשה ולתקן בתנועה, גם אם הוא נתקל בסיטואציה בפעם הראשונה.
זה נכון למישהו שעומד בצד הדרך, אבל אתה כנהג אנושי מזהה את אותו מידע חמקמק ששפת הגוף שלו מעידה שהוא יוריד רגל לכביש עוד רגע, ואת זה אף מכונה לא תדע לקרוא, או לסמיטריילר בצבע בז׳ (עע טסלה).

בלי הפרדה מוחלטת בין נהג אנושי, הולך רגל, חיות או כל יצור ביולוגי אחר, לבין הרכבים האוטונומיים, לא תוכל למנוע תאונות.

אתה רואה הפרדה כזו בעתיד הנראה לעין עד שיהיו מכוניות מעופפות?

[דרור ברלי]

"לשנע אנשים ודברים מהר ובזול עם פחות נפגעים". מישהו עוד עלול להאמין לך.
לגבי מהר - אני לא יודע. כל הזמן מפמפמים לנו שמהירות הורגת. פתאום מהר זה טוב?...

פחות נפגעים - נו באמת. זה אף פעם לא באמת עניין אף אחד. נחזור שוב ל"מזכר הפינטו?"... או למדיניות הנוכחית של משרד התחבורע שלנו?....

בזול - או. עכשי ואתה מדבר תכל'ס. זה עצם העניין. להוציא פחות כסף. ועל הדרך גם להרוויח מלא כסף.
בשורה התחתונה זה עסק. והמטרה של עסקי הטכנולוגיה (כמו של כל עסק אחר) היא אחת - לעשות כסף.



טרוריסט אחד יכול היום להשתלט, פיזית, על משאית אחת.
20 טרוריסטים - יכולים להשתלט על 20 משאיות.
אבל טרוריסט הסייבר של מחר יוכל להשתלט בו זמנית על 10,000 משאיות.
או יותר טוב מזה - 10,000 אוטובוסים. 50 איש בכל אוטובוס. בואו נעשה חשבון לבד.

כבר הזכרתי יותר מפעם אחת ואני חושב שאין חילוקי דעות בעניין הזה - כדי שהעסק האוטונומי הזה יעבוד ובאמת יהיה יעיל - כולם צריכים לעבור לדבר הזה. אז דורון דיבר על הפרדה ואני סבור שההפרדה היא רק שלב ביניים. השלב האחרון, הפתרון הקבוע, יהיה להוריד את בני האדם מהכביש מכוחם של חוקים. באמצעות רגולציה. וזה אומר כפייה.

ואני נגד כפייה. של כל דבר.
עכשיו תספר לי על טובת הכלל בלהבלהבלה שבאה לפני טובת הפרט ושזה מצדיק כפייה. את זה בדיוק סיפרו להמונים במשטרים קומוניסטיים.

כמו שקרוב שעובד בטכנולוגיה ודיברנו על זה בדיוק, הסביר לי - הכל כדי שיהיה יותר קל ויותר טוב ויותר שפע. אז שאלתי קל למי? טוב למי? שפע למי?... אהה. הוא הסכים לחלוטין שהנהנים העיקריים מיתרונות ופירות הטכנולוגיה הם בעיקר אלה שעוסקים בטכנולוגיה ועושים ממנה המון כסף.
כל היתר מובלים באף. מישהו מחליט בשבילם, אין להם ברירה, אף אחד לא שואל אותם.

אז לפעמים זה טוב ולפעמים זה רע. לרוב ההמונים עד כדי כך מטומטמים, שבעצם לא אכפת להם - ואני מניח, והוא גם הסכים איתי, שעליהם כל העסק בנוי.

[נמרוד]

בלי הפרדה מוחלטת בין נהג אנושי, הולך רגל, חיות או כל יצור ביולוגי אחר, לבין הרכבים האוטונומיים, לא תוכל למנוע תאונות.

דרור כתב:

כבר הזכרתי יותר מפעם אחת ואני חושב שאין חילוקי דעות בעניין הזה - כדי שהעסק האוטונומי הזה יעבוד ובאמת יהיה יעיל - כולם צריכים לעבור לדבר הזה.

בוודאי שיש חילוקי דעות. לעניות דעתי, יש לא רק התכנות אלא זה מה שיהיה: שילוב של מכוניות אוטונומיות בתחבורה הרגילה, יהיו פחות ופחות תאונות, במהלך הדרגתי שימשך כמה עשרות שנים עד שרוב האנשים לא ידעו, לא ירצו, ולא יתעניינו בפעילות הזאת שנקראת נהיגה עם הגה ודוושות.

זו הנחת העבודה של חברות הרכב והטכנולוגיה, של הרגולטורים, וזה בדיוק מה שנבדק ומפותח בעשרות הניסויים בערים בכל רחבי העולם.

[Pageup]

נמרוד,
מסתבר שהכלל של דרור הוא לא באמת שלו. יצא לי לפתח דיון על רחפנים עם אנשי רגולציה למינהם.
נתנו דוגמא על רחפן שיכול לבצע פעולה שטייס עושה כל פעם לפני טיסה.
הבדיקה תהיה הרבה יותר יסודית, עם סיכויי שגיאה הרבה יותר קטנים.
התשובה הייתה: אם טייס יטעה זה טעות אנוש, אם רחפן/תוכנה יטעו זה כבר קטסטרופה.
אז אנשי הרגולציה (של עולם הטיסה הם הרבה יותר שמרנים אבל עדיין) מפחדים הרבה
יותר מטעות רובוטית מאשר טעות אנוש שתביא ליותר נפגעים.

[נמרוד]

הבדיקה תהיה הרבה יותר יסודית, עם סיכויי שגיאה הרבה יותר קטנים.
התשובה הייתה: אם טייס יטעה זה טעות אנוש, אם רחפן/תוכנה יטעו זה כבר קטסטרופה.
אז אנשי הרגולציה (של עולם הטיסה הם הרבה יותר שמרנים אבל עדיין) מפחדים הרבה
יותר מטעות רובוטית מאשר טעות אנוש שתביא ליותר נפגעים.

לגמרי. זה העולם שאני חי בו, של פיתוח מוצרים קריטיים לחיי אדם (במקרה שלי מכשור רפואי אבל מתודולגית הפיתוח דומה).

יש מקומות שבהם האחריות של המפעיל (נהג, טייס, במקרה שלי רופא מצנתר) ויש מקומות שבהם האחריות שלנו (המתכנן, מי שמייצר ומוכר את המוצר). אנחנו מבצעים ניתוח סיכונים כל הזמן, ומקדישים את מרב תשומת הלב למקומות שבהם אין למפעיל האנושי יכולת להשפיע, והתוצאה בהם יכולה לפגוע בחיי אדם - אלו המקומות שאנחנו מגדירים כקריטיים, ובהם מתעסקים עד הסוף.

טייס ריסק מטוס - הטייס אשם. רחפן התרסק - היצרן אשם. לכן עבור המפתח זו קטסטרופה, והוא צריך למנוע אותה, וגם להוכיח, בכתובים, באותות ובמופתים, שהוא עשה את כל מה שאפשר, לפי כל התקנים ומעבר להם. אני מול הFDA, יצרני הרכב מול הDOT וNTSB וכל שאר ראשי התיבות של התחום שלהם.

זה עונה אגב על השאלה שאני לאט לאט מבין שהיא שמטרידה את דרור וגיתאי - חיפוש האשם.

לי לפחות זה ברור - ואני חושב שזה ברור גם לחברות הרכב האוטונומי - האחריות לתאונות של מכוניות אוטונומיות תהיה של היצרנים, אלא אם יוכח אחרת, כמו שהיום האחריות היא על הנהג ברכב הפוגע/האחורי אלא אם מוכח אחרת.

[asafk]

עם חשש אחד של דרור אני מזדהה. וזה שטובת גוף עסקי זה או אחר תועדף על טובת הכלל. זה קרה כשוועדת תקינה החליטה שרק בישראל מותר לטעון מכוניות רק בעמדת טעינה מסוג מסויים, במקרה הסוג שבטר פלייס השתמשה בו באופן כמעט בלעדי, והתוצאה היא שהיום אפילו להטעין טוסטוס חשמלי מהקיר- אסור. ואולי בגלל זה ישראל היא המדינה מהיחידות בעולם המערבי שלא נמכרות בה מכוניות חשמליות בכלל.
גם זה שכביש מסויים במיקום מאוד חשוב באזור המרכז לא נפתח והפינישים של העבודות בו מתמהמהים מעבר לסביר כבר חודשים ארוכים, ונראה בלי להבין בבניית כבישים שאולי נוח למשוך את הזמן כי בינתיים הוא משמש מסלול ניסוי למכוניות אוטונומיות עבור חברות מסחריות ובחסות משרד התחבורה.
העדפה כזו, נקודתית, עלולה להפוך ברבות הימים לבכיה לדורות, וכדאי להיות על המשמר.

אסף.

[asafk]

ועוד הערה. המעבר לתחבורה אוטונומית חייב להיות מהיר. אבל זה לא יקרה ולא רק בגלל חובבי הרכב. שוק ההובלה הכבדה הוא אמנם קלאסי להובלה אוטונומית אבל בניגוד להסעת נוסעים, שם נדרשת השקעה אדירה של בעלי ציי המשאיות שלא אוהבים להוציא שקל אחד מיותר מצד אחד, ונדרשת וריפיקציה ברמה הרבה יותר גבוהה לפול טריילר של 100 טון מאשר למכונית נוסעים מצד שני. זו כבר השקעה של יצרניות המשאיות שרק עכשיו גומרות ללקק את פצעי המעבר ליורו 6 וייקח להן שנים רבות להחזיר את ההשקעה הזו לפני שיהיו בעניין של השקעת המיליארדים הבאה ביכולות אוטונומיות.

אסף.

[Asaf-a]

מאוד אקטואלי לדיון,

[עושים טכנולוגיה] רכבי העתיד: המהפכה שבדרך

28.3.2018 by פודקאסט ישראל

Web player: http://podplayer.net/#/?id=48344568
Episode: http://il.hosting.cast.plus/5a5c7797...man_GM_MST.mp3

רכבים אוטונומיים עומדים לחולל את אחת המהפכות הגדולות ביותר בהיסטוריה האנושית - מהפכה שתיגע בכל תחום בחיינו: מדיור ותכנון ערים ועד ביטוח ואנרגיה.לרגל החג החלטנו להעלות את הראיון עם אפרת רוזנמן, מקימה ומנהלת את קבוצת "קוגנטיב דרייבינג" בחברת ג'נרל מוטורס ישראל, בו היא מספרת לי על תחום ה"machine learning" על פיתוחים לרכבים אוטונומיים ומקושרים, ועל רכבי העתיד.


Sent from my SM-G950F using Tapatalk

[polar bear]

חיפוש מהיר בגוגל , ע"י נאנדרטל לא מיומן , מגלה שדרור לא המציא את כלל אי הסלחנות לרובוט וגם לא את הציפיה ל 0 תאונות בתחבורה אוטונומית.
למשל אחד, סטפן יעקובי שאומר שחברת הבוטיק הקטנה שלו עובדת לפי חזון 000: אפס פליטה, אפס פקקים ואפס הרוגים .

https://www.ynet.co.il/articles/0,73...039548,00.html

להגיד - אם היתה איזו תקלה אז זה כולה שורת קוד, זה זילזול. או בעצמך או במי שקורא אותך. כי כמו שאותו מטוס לא התרסק בגלל רכיב מחשב אלא בגלל חתיכת חומר שנשבר, כך יכול להיות שהתקלות של האוטונומיות נבעו מכשל במוצרי הקצה ולא מבעית תכנה, או חומרה. יכול להיות שהיה אבק על איזה מצלמה או כל דבר שיפריע לדברים האלה. וזאת בלי קשר לתקלות מכאניות רגילות שיש בכלי רכב ועלולות לגרום לת"ד.

זה שאין אף אחד שיכול לתאר את מערך התחזוקה ואת הפיקוח עליו, מעיד שלא מיחסים לכך חשיבות. העיקר שהמוצר יצא תקין מהמפעל. כאשר לא בדיוק ברור מה זה תקין.

וכמו שאסף כותב, יצא לי לשמוע דבר דומה מסוג של בכיר במשרד התחבורה שטוען שהמדען טועה...

[ד ו ר ו ן]

איך הלידר/מצלמה יעבדו בגשם/רסס כביש רטוב?

..

[גיא]

מה זה לידר ?





Sent from my iPhone using Tapatalk

[GodsFather]

https://en.m.wikipedia.org/wiki/Lidar

בארץ יש כמה חברות בתחום

אחת נחשבת שאני מכיר -

Innoviz.tech



Sent from my SM-G900F using Tapatalk