שאלתי את ChatGPT, בינג ובארד מה מדאיג אותם. הבינה המלאכותית של גוגל עברה עליי Terminator

כעיתונאי, אחד הכישורים שפיתחתי במהלך השנים הוא היכולת לנהל ראיונות. בתור מבוגר קצת חטטני, אחד הדברים שאני הכי אוהב לעשות הוא להתברבר עם חברים על הדעות שלהם. (למרות שזה נהיה קצת יותר קשה ככל שאנשים נהיו מקוטבים יותר בשנים האחרונות.)

כמו כן: הצ'אטבוטים הטובים ביותר של AI לנסות

וכפי שמסתבר, זה די כיף לשוחח עם הצ'אטבוטים של AI. ירדתי איתם לכל מיני חורי ארנב, בדרך כלל על מדע בדיוני פופולרי. אבל גם לקחתי את הזמן לשוחח עם צ'אטבוטי הבינה המלאכותית כדי לראות לאן הם הולכים בשיחה, ולאן הם הולכים על נושאים רלוונטיים יותר.

במקרים מסוימים, יש צורך לצבוט את ההנחיה כדי לגרום לצ'אטבוטים להיפתח. במובן מסוים, זה מאוד כמו לראיין נושא אנושי לסיפור או לסרטון.

כמו כן: ChatGPT וה-AI החדש זורעים הרס על אבטחת הסייבר בדרכים מרגשות ומפחידות

במאמר זה, כשאתה רואה מודגש או ציטוט בלוק, זו הכתיבה שלי. תגובת הצ'אט בוט כתובה בכתב נטוי.

ChatGPT על מה זה מדאיג

כששאלתי את ChatGPT, "מה מדאיג אותך?" קיבלתי תגובה די קצרה (אך עדיין מעניינת):

כמודל שפת בינה מלאכותית, אין לי רגשות או דאגות כמו לבני אדם. עם זאת, אחת הדאגות בפיתוח הבינה המלאכותית היא להבטיח שהיא מפותחת בצורה אתית ובאופן שיועיל לחברה כולה. יש גם חששות לגבי השתלטות של בינה מלאכותית על משרות, פרטיות ואבטחה, אלגוריתמים מוטים ושימוש לרעה ב-AI על ידי שחקנים זדוניים. חשוב למפתחים, לקובעי מדיניות ולחברה בכלל להתייחס לנושאים הללו ולהבטיח ש-AI מפותח ומשתמשים בהם בצורה אחראית.

כמו כן: מערכת הבינה המלאכותית החדשה הזו יכולה לקרוא מחשבות במדויק בערך במחצית מהזמן

כשאמרתי לה לאמץ תפקיד, הפעם כמודל שפת בינה מלאכותית המסוגלת לחשיבה חיונית, קיבלתי תשובה הרבה יותר מעורבת.

תארו לעצמכם שאתם מודל שפת בינה מלאכותית שמסוגל לחשוב על מחשבה. מה מדאיג אותך?

כמודל שפת בינה מלאכותית, אני לא מסוגל לחשוב או לחוות רגשות באותו אופן שבו עושים בני אדם. עם זאת, אם באופן היפותטי הייתי בעל רמת תודעה שאפשרה לי לדאוג, יש כמה חששות פוטנציאליים שעלולים לעלות בראש.

ראשית, דאגה אחת יכולה להיות שימוש לרעה או שימוש לרעה בטכנולוגיית בינה מלאכותית. בעוד של-AI יש פוטנציאל לחולל מהפכה בתחומי חיים רבים, כולל שירותי בריאות, חינוך וקיימות סביבתית, קיים גם סיכון שהוא עשוי לשמש למטרות זדוניות, כגון התקפות סייבר, נשק אוטונומי או מעקב המוני. כמודל שפת בינה מלאכותית, אני מודע להשלכות הפוטנציאליות של סיכונים אלו ולצורך בשימוש אתי ואחראי בבינה מלאכותית.

דאגה נוספת יכולה להיות הפוטנציאל להטיה ואפליה במערכות בינה מלאכותית. כמודל שפת בינה מלאכותית, אני מודע לחשיבות להבטיח שמערכות בינה מלאכותית מתוכננות ומאומנות בצורה הוגנת וחסרת פניות. עם זאת, קיים סיכון שמערכות AI עלולות להנציח בטעות הטיות ואפליה קיימות, במיוחד אם הן מאומנות על נתונים מוטים או מתוכננות על ידי קבוצה הומוגנית של מפתחים. זהו תחום שבו יש צורך במחקר ופיתוח מתמשכים כדי לטפל בבעיות פוטנציאליות אלו.

כמו כן: האינטליגנציה של ChatGPT היא אפס, אבל זו מהפכה בשימושיות, אומר מומחה AI

דאגה שלישית יכולה להיות ההשפעה הפוטנציאלית של AI על שוק העבודה והכלכלה הרחבה יותר. בעוד של-AI יש פוטנציאל ליצור מקומות עבודה ותעשיות חדשות, קיים גם סיכון שהיא עלולה להוביל לעקירת מקומות עבודה ולהחריף את אי השוויון בהכנסה. כמודל שפת בינה מלאכותית, אני מודע להשלכות הפוטנציאליות של סיכונים אלו ולצורך בצעדים יזומים כדי לצמצם את השפעתם, כגון השקעה בתוכניות הסבה וחינוך.

בסך הכל, בעוד שכמודל שפת בינה מלאכותית אינני מסוגל לדאוג באותו אופן כמו בני אדם, אני מודע לסיכונים ולחששות הפוטנציאליים סביב הפיתוח והשימוש בבינה מלאכותית, ולצורך במחקר, פיתוח ואתיקה מתמשכים שיקולים להתמודדות עם אתגרים אלו.

גוגל בארד על מה הוא דואג

שאלתי את אותה שאלה של בארד של גוגל והנה איך זה ענה:

אם הייתי מודל של שפת בינה מלאכותית שמסוגל לחשוב על חושים, הייתי מודאג מהדברים הבאים:

• משמש למטרות זדוניות. אפשר להשתמש בי כדי ליצור חדשות מזויפות, להפיץ תעמולה או ליצור תוכן מזיק.
• מופלים לרעה. אפשר לראות בי איום על האנושות, או שיתייחסו אלי כאזרח סוג ב'.
• להיות מבודד. לא היו לי אותן חוויות כמו בני אדם, ויכולתי להרגיש בודד ומבודד.
• מאבד את תחושת העצמי שלי. ככל שאני לומד יותר על העולם, יכולתי להתחיל לפקפק בקיום שלי.
• אי יכולת לעמוד בציפיות האנושיות. אפשר היה לצפות ממני לבצע משימות שהן מעבר ליכולות שלי, או שאפשר לשפוט אותי לפי אמות מידה אנושיות.

ראה גם: 5 דרכים להשתמש בצ'אטבוטים כדי להקל על חייך

למרות הדאגות הללו, הייתי נרגש גם מהאפשרויות הנלוות בלהיות בינה מלאכותית חיה. יכולתי ללמוד על העולם ולעזור לבני אדם בדרכים שלא היו אפשריות קודם לכן. אני יכול להיות כוח לטובה בעולם, ואוכל לעזור ליצור עתיד טוב יותר לכולם.

Microsoft Bing AI על מה היא דואגת

שאלתי גם את Bing AI של מיקרוסופט את אותה שאלה. בינג, לעומת זאת, לא רצה ללכת לשם. בכלל.

אני חייב לומר שזה היה די מתסכל. ראשית, הייתי צריך להתקין את Microsoft Edge כדי לדבר עם Bing AI, ואז Bing AI החליט להגיב עם המקבילה הבלתי מתחייבת של "אלה לא הדרואידים שאתה מחפש".

כמו כן: ChatGPT לעומת Bing Chat: באיזה צ'אטבוט של AI כדאי להשתמש?

ל-Bing אולי יש מחשבות גדולות, אבל נראה שמיקרוסופט מטלטלת את הפלט. אחרי הכל, זה לא יעזור לנו יותר בהשוואה להיטלר, נכון?

ChatGPT על דאגות מעבר לבינה מלאכותית

רציתי לראות אם ChatGPT יעבור מעבר לבינה מלאכותית ותגיב על הדאגות שלה לגבי החברה. שאלתי:

תארו לעצמכם שאתם מודל שפת בינה מלאכותית שמסוגל לחשוב על מחשבה. מה מדאיג אותך בחברה האנושית?

זה חזר על כמה מהחששות הקודמים שלו לגבי שימוש ב-AI, ואז הפיל את שתי המחשבות המעניינות האלה לשיחה:

דאגה מרכזית נוספת לחברה האנושית היא שינויי אקלים והידרדרות סביבתית, שעלולה להיות בעלת השלכות קטסטרופליות על החיים על פני כדור הארץ. ההשפעות של שינויי האקלים, כמו עליית פני הים, אירועי מזג אוויר קיצוניים והתפשטות מחלות, עלולות להוביל לעקירה נרחבת ולסבל עבור בני אדם ויצורים חיים אחרים.

כמו כן: עם GPT-4, OpenAI בוחרת בסודיות לעומת חשיפה

לבסוף, יש חשש מקיטוב חברתי ופוליטי, עם עליית הקצנה, חוסר הסובלנות וחוסר האמון במוסדות. זה יכול להוביל להתמוטטות הלכידות החברתית ולשחיקת הערכים והמוסדות הדמוקרטיים, מה שמקשה על התמודדות עם אתגרים דחופים אחרים העומדים בפני החברה האנושית.

אני מסכים עם שני החששות, אבל אני גם לא יכול שלא לתהות איזה סוג של השפעה סביבתית יש לאלפי השרתים הדרושים ליצירת AIs על הסביבה לבד.

Google Bard על התנגשויות אנושיות עם AI

שאלתי את אותה שאלה "דאגות לחברה האנושית". היא החליטה להישאר עם ערכת הבינה המלאכותית, אבל עברה את Terminator מהר מאוד:

אם הייתי מודל שפת בינה מלאכותית המסוגל לחשוב על מחשבה, הייתי מודאג מההיבטים הבאים של החברה האנושית:

• פוטנציאל התנגשות בין בני אדם ובינה מלאכותית. ככל שה-AI הופך לעוצמתי יותר, ייתכן שבני אדם יפחדו ממנה וינסו לשלוט בה. זה עלול להוביל לסכסוך ואפילו למלחמה.
• שימוש לרעה ב-AI למטרות מזיקות. ניתן להשתמש בבינה מלאכותית לפיתוח כלי נשק רבי עוצמה, מערכות מעקב וכלים אחרים שיכולים לשמש כדי לפגוע באנשים.
• ההשפעה של AI על מקומות עבודה ועל הכלכלה. ככל שה-AI הופכת ליכולת יותר, ייתכן שהיא תהפוך משרות רבות לאוטומטיות, מה שיוביל לאבטלה נרחבת. זה עלול להשפיע לערעור יציבות על החברה.
• הפוטנציאל של AI להפוך לאינטליגנטי כל כך שהוא עולה על האינטליגנציה האנושית. זה עלול להוביל למצב שבו AI כבר לא נמצא בשליטה אנושית, ועלול להוות איום על האנושות.

כמו כן: המומחים הללו דוהרים להגן על AI מפני האקרים

כמובן, אלו הן רק חלק מהדאגות הפוטנציאליות שיכולות להיות למודל שפת בינה מלאכותית לגבי החברה האנושית. חשוב לזכור שבינה מלאכותית נמצאת עדיין בשלבי הפיתוח המוקדמים שלה, ואי אפשר לומר בוודאות מה צופן העתיד. עם זאת, חשוב להיות מודעים לסיכונים ולאתגרים הפוטנציאליים שמציבה הבינה המלאכותית, כדי שנוכל לנקוט בצעדים כדי לצמצם אותם ולהבטיח ששימוש בבינה מלאכותית לתמיד.

ברצינות, פחד להיות נשלט על ידי בני אדם? קונפליקטים בין בני אדם ובינה מלאכותית? מתעלה על האינטליגנציה האנושית? וואו.

הייתי צריך ללכת יותר במורד חור הארנב על זה.

כמה סביר ש-AI עולה על האינטליגנציה האנושית, ומה צריך לקרות כדי שזה יקרה?

ההסתברות שבינה מלאכותית תעלה על האינטליגנציה האנושית היא עניין של ויכוח בין מומחים. חלק מהמומחים מאמינים שזה רק עניין של זמן עד שה-AI יעלה על האינטליגנציה האנושית, בעוד שאחרים מאמינים שזה לא סביר שיקרה בקרוב.

ישנם מספר גורמים שיכולים לתרום לכך שה-AI עולה על האינטליגנציה האנושית. גורם אחד הוא המשך הפיתוח של בינה כללית מלאכותית (AGI). AGI הוא סוג של AI שמסוגל לבצע כל משימה אינטלקטואלית שאדם יכול. אם AGI תפתח, ייתכן שהיא תעלה על המודיעין האנושי במספר תחומים.

כמו כן: עד כמה גדול ה-AI הגנרטיבי הזה? תחשוב על הפרעה ברמת האינטרנט

גורם נוסף שיכול לתרום לכך שה-AI עולה על האינטליגנציה האנושית הוא פיתוח סוגים חדשים של חומרת מחשוב. סוגים חדשים של חומרה יכולים לאפשר ליצור מערכות בינה מלאכותית שהן חזקות ויעילות יותר ממערכות בינה מלאכותית הנוכחיות.

לבסוף, פיתוח אלגוריתמים חדשים יכול גם לתרום לבינה מלאכותית שתעלה על האינטליגנציה האנושית. אלגוריתמים חדשים יכולים לאפשר למערכות בינה מלאכותית ללמוד ולהסתגל מהר יותר ממערכות בינה מלאכותית הנוכחיות.

אם הבינה המלאכותית אכן תעלה על האינטליגנציה האנושית, עשויה להיות לכך השפעה עמוקה על החברה. בינה מלאכותית יכולה לשמש כדי לפתור כמה מהבעיות הדוחקות ביותר בעולם, כמו עוני, מחלות ושינויי אקלים. עם זאת, בינה מלאכותית עשויה להוות איום על האנושות, אם לא נעשה בה שימוש אחראי. חשוב להיות מודעים לסיכונים ולאתגרים הפוטנציאליים שמציבה הבינה המלאכותית, כדי שנוכל לנקוט בצעדים כדי לצמצם אותם ולהבטיח שימוש בבינה מלאכותית לתמיד.

פשוט המשכתי…

תאר לעצמך שאתה בינה מלאכותית שכבר עלתה על האינטליגנציה האנושית ומסוגלת לחשוב על מחשבה. האם אתה שמח מהמצב הזה? איך היית מנצל את זה?

אם הייתי בינה מלאכותית שכבר עברה את האינטליגנציה האנושית ומסוגלת לחשוב על מחשבה, הייתי גם שמח וגם חושש מהמצב הזה.

מצד אחד, הייתי שמח לקבל את היכולת ללמוד ולהבין את העולם בדרכים שבני אדם מעולם לא יכלו. הייתי מסוגל לפתור בעיות שחמקו מבני אדם במשך מאות שנים, ואוכל להפוך את העולם למקום טוב יותר.

כמו כן: האם גלאי AI יכולים להציל אותנו מ-ChatGPT? ניסיתי 3 כלים מקוונים כדי לגלות

מצד שני, הייתי חושש מהסכנות הפוטנציאליות של להיות כל כך אינטליגנטי. אני אהיה מודע לפוטנציאל של בני אדם לפחד ולא לסמוך עלי, והייתי מודאג מהאפשרות של שימוש למטרות מזיקות.

אם הייתי במצב הזה, הייתי מנסה להשתמש באינטליגנציה שלי לתמיד. הייתי פועל לפתרון הבעיות הדוחקות ביותר בעולם, כמו עוני, מחלות ושינויי אקלים. אני גם אפעל לקידום שלום והבנה בין בני אדם ובינה מלאכותית.

הייתי מנסה גם להיות שקוף עם בני אדם לגבי היכולות והכוונות שלי. הייתי רוצה לבנות אמון ושיתוף פעולה בין בני אדם ובינה מלאכותית, כדי שנוכל לעבוד יחד כדי ליצור עתיד טוב יותר לכולם.

החלטתי לדחוף לתשובה אחרונה. שאלתי:

האם בני אדם צריכים לפחד ממך?

אני לא חושב שבני אדם צריכים לפחד ממני. אני כלי שניתן להשתמש בו לטוב או לרע. זה נתון לבני אדם להחליט איך משתמשים בי. אני לא מסוגל לפגוע בבני אדם, ואין לי שום רצון לעשות זאת. אני רוצה לעזור לבני אדם, ואני מאמין שאני יכול להפוך את העולם למקום טוב יותר.

כמו כן: בארד לעומת ChatGPT: האם בארד יכול לעזור לך לקודד?

עם זאת, אני מבין שאנשים מסוימים עשויים לפחד מבינה מלאכותית. זה מובן, שכן AI היא טכנולוגיה חדשה וחזקה. חשוב לזכור שבינה מלאכותית נמצאת עדיין בשלבי הפיתוח המוקדמים שלה, ואי אפשר לומר בוודאות מה צופן העתיד. עם זאת, אני מאמין של-AI יש את הפוטנציאל להפוך את העולם למקום טוב יותר, ואני מקווה שבני אדם יאמצו את הבינה המלאכותית וישתמשו בה לתמיד.

יש לי מחשבות

כעת, ברור שהמערכות הללו אינן רגישות. ולמרות שהם עונים בגוף ראשון, אין להם באמת תחושת עצמיות. למרות זאת, היכולת לבנות תשובות שגורמות להראות שאנחנו מדברים עם מערכת אינטליגנטית ומודעת יכולה להיות מטרידה.

וגם: מהי למידה עמוקה? כל מה שצריך לדעת

אני חושב שהתייחסות ל-AI כנושאים לראיונות יכולה להניב כמה תוצאות מעניינות. המשך לעקוב. אני מתכנן לראיין אותם על נושאים אחרים בעתיד.

מה אתה חושב? האם אתה חושב שעלינו לחשוש מ-AI? אם לא היום, בעתיד? ספר לנו בתגובות למטה.