התנתקות מההאצה
בינה מלאכותית הופכת למסוכנת ברגע שהיא משמשת ל להאיץ מה שכבר קיים.
האצה פירושה לעשות את אותם הדברים מהר יותר. אם מערכת היא שברירית, לא צודקת או קצרת רואי, הבינה המלאכותית לא תתקן אותה — היא להגביר אותו, ביעילות ובקנה מידה גדול.
הערך האמיתי של הבינה המלאכותית טמון במקום אחר.
לא במהירות. אלא ב התנתקות.
מה המשמעות של "לפרק"?
לפרום פירושו להבהיר את מה שהתבלבל עם הזמן:
- לחשוף תלות נסתרת
- להפריד בין אילוצים פיזיים לבין בחירות פוליטיות
- להבחין בין צורך להרגל
- לחשוף מקרים שבהם החלטות נחסמות בשל מחסור במידע, ניגודי אינטרסים או אינרציה
בתפקיד זה, הבינה המלאכותית אינה מפקדת. היא מאיר.
שלוש בדיקות פשוטות
מערכת בינה מלאכותית היא לגיטימית רק אם היא עומדת במבחנים הבאים:
1. האם זה מצמצם את מספר ההחלטות האנושיות הנדרשות?
או שמא זה מאלץ לקבל יותר החלטות, במהירות רבה יותר, תחת לחץ?
2. האם הדבר הופך את המערכת למובנת לאלה החיים בתוכה?
אם לא, זה לא מתאים — זה שולט.
3. האם הוא פועל על זרימות איטיות ומבניות? — זמן, משאבים, גישה —
או על מהירים ורגשיים: תשומת לב, תגובה, כפייה?
המקרה השני הוא כמעט תמיד רעיל.
מדוע זה חשוב
רוב הכישלונות הטכנולוגיים אינם טכניים. הם כישלונות של מסגור.
אנו מייעלים את מה שהיה צריך להישאל. אנו מאיצים את מה שהיה צריך לפשט. אנו אוטומטיים את מה שהיה צריך לפרק.
אין להשתמש ב-AI כדי להפעיל לחץ על מערכות. יש להשתמש בו כדי להפוך את המערכות לקריאות.
מיושם על שינוי שנת אפס
לוח שנה חדש או מטבע חדש הם בעלי ערך רק אם הם מפחית את המורכבות הקוגניטיבית והמוסרית.
לא אם זה מוסיף רובד אידיאולוגי. לא אם זה יוצר ערפול טכני.
אם ל-AI יש תפקיד כאן, הוא צנוע אך רדיקלי:
לציין בבירור מה באמת נדיר.
מה שכבר אינו נדיר.
ומה ניתן לחלוק ללא קונפליקט.
כאשר הבינה המלאכותית מפרידה בין הדברים, היא מפיחה בהם חיים. כאשר היא רק מייעלת מדדים, היא מתישה אותם.
זהו הקו שאסור לחצות.
*פוסט זה נלקח מדיון עם ChatGPT.
נדירות ותכנון מכוון להתיישנות הם אחד ממקורות הסבל. הם יוצרים אי-שוויון וסכסוכים בכך שהם מונעים מהתודעה להתפתח במעגל קסמים שעשוי שלא להיות קשור לבינה מלאכותית.
זו הסיבה לאופטימיות שלי.