מה זה מערכות מרובות סוכנים?

סוכנים הם כלי בינה מלאכותית אוטונומיים בעלי יכולת לפעול בכוחות עצמם, להגיב לנסיבות חדשות ולהשלים משימות לפי הוראות.

מערכות אלו מסמנות את הנקודה שבה בינה מלאכותית עוברת מכלי פשוט למנהל משימות מתוחכם.

המטרה הסופית היא לבצע משימה לאורך זמן רב, באמצעות שלבים מרובים ועצי החלטה. עם זאת, כרגע הם מוגבלים בעיקר לשגרות של משימה בודדת, או למשימות הכרוכות באינטראקציה אנושית במהלך התהליך.

כמו בהיבטים רבים של פריחת הבינה המלאכותית הנוכחית, ישנן מספר תפיסות מוטעות, והרבה הייפ הקשור לסוכני בינה מלאכותית באופן כללי.

ראשית, אנשי מכירות בתחום הבינה המלאכותית מנסים יותר ויותר לטשטש את ההבדל בין כלי תוכנה פשוטים של בינה מלאכותית לבין מערכות סוכניות מתוחכמות יותר של בינה מלאכותית.

האחרונים עדיין נמצאים בתהליך עבודה, ועדיין לא הציגו את סוג הכוח האוטונומי עליו מדובר כבר עשרות שנים בזירת הבינה המלאכותית.

ההבדל בין כלי בינה מלאכותית לסוכני בינה מלאכותית

חשוב להבין מהם ההבדלים בין כלי בינה מלאכותית לסוכן בינה מלאכותית.

צ'אט בוטים, עוזרים אישיים וכלי בינה מלאכותית אינטראקטיביים אחרים הם בעצם רק כלים 'טיפשים'.

לעומת זאת, לסוכנים יש כמה מאפיינים מרכזיים המגדירים את… ז'אנר.

כנראה שהחשובים שבהם הם אוטונומיה, הסתגלות וקבלת החלטות.

בסופו של דבר, סוכן ישלב גם מידה מסוימת של , שהיא שילוב של כל הגורמים הללו, אשר יספק משהו קרוב לסוכנות אנושית מלאה.

דמיינו עוזר אישי שיכול לא רק לתזמן את היומן שלכם, אלא גם להבין את העדפותיכם והצרכים הספציפיים שלכם.

הוא יכול להחליט אם עדיף לכם להשתתף בפגישת עסקים או להתמקד במשימה אישית, ולתזמן דברים בהתאם מבלי שתגידו לו במפורש מה לעשות.

זוהי בינה מלאכותית סוכנית מלאה בפעולה – היא לא רק פועלת לפי כללים מוגדרים מראש, היא לומדת מהסביבה שהיא מתמודדת איתה, מקבלת החלטות ומסתגלת למידע חדש.

כנראה הוגן לומר שאנחנו עדיין רחוקים מרמה זו של אוטונומיה מלאה, אם כי חלקים מהמשוואה כבר קיימים ביישומים שונים.

אנו נכנסים כעת לאט לאט לתקופה שבה אנו יכולים לצפות באופן מהימן שמערכת בינה מלאכותית תשלים משימות באותו אופן כמו אדם. היה.

לדוגמה, בתחום הנדסת התוכנה, ישנם כלים כמו אלה אשר מנקים ניפוי וכותבים קוד באופן אוטונומי עם מעט מאוד אינטראקציה אנושית.

הצורך במהירות

רבות ממערכות סוכניות אלו עדיין מוגבלות על ידי כמות כוח המחשוב שהן יכולות להשתמש בו כדי להשלים משימה.

כידוע, בינה מלאכותית היא עתירת חישובים ביותר, מה שאומר ששרשור משימות מרובות יחד צורך כמות גדולה במיוחד של אנרגיה וזמן מחשוב.

למרבה המזל, יש כמות גדולה של מחקר שנעשה כדי לייעל מודלים של בינה מלאכותית כדי שיוכלו לעשות יותר עם פחות.

זה כולל יצירת מודלים מיוחדים קטנים יותר, במקום להסתמך רק על מודלים בסיסיים גדולים למטרות כלליות.

מנוע יעילות זה מקודם גם על ידי תנועת הבינה המלאכותית בקוד פתוח, שעושה צעדים אדירים בשיפור יכולות הבינה המלאכותית באמצעות מחשבים אישיים במקום מרכזי נתונים ענקיים בענן.

הבעיה עם בטיחות ואבטחה

אחד האילוצים האחרים על פיתוח מערכות סוכני בינה מלאכותית הוא הדאגה לאבטחה.

לבינה מלאכותית אוטונומית יש את יכולת מובנית לסטות מהמסלול ולפעול מחוץ לכללי היישור האתי הכלליים.

לכן, נעשית עבודה רבה כדי לנהל סיכונים אלה, כך שמערכות אוטונומיות יישארו בטוחות בפעולה.

למרבה הצער, כבר היו מקרים בהם סוכני בינה מלאכותית פשוטים, כמו עוזרי תמיכת לקוחות, פעלו מחוץ להכשרתם, וסיפקו או אף תגובות פוגעניות לבקשות לקוחות אנושיים.

הפוטנציאל לשימוש לרעה מסוג זה גדל כמובן ככל שסוכנים רוכשים יותר אוטונומיה ואינטליגנציה.

כתוצאה מכך, ישנם מספר ארגונים חזקים וממומנים היטב כמו זה של איליה סוטסקבר, המתמקדים כעת בהבטחה שבינה מלאכותית בכלל, ומערכות סוכניות בפרט, ידבקו בכללים ברורים וניתנים לניהול והנחיות התנהגותיות.

הזמן יגיד אם זה מספיק כדי לשמור על כולנו בטוחים.

הבעיה עם בטיחות ואבטחה

אחד האילוצים האחרים על פיתוח מערכות סוכני בינה מלאכותית הוא הדאגה לאבטחה.

לבינה מלאכותית אוטונומית יש יכולת מובנית לסטות מהמסלול ולפעול מחוץ לכללי היישור האתי הכלליים.

לכן, נעשית עבודה רבה כדי לנהל סיכונים אלה, כך שמערכות אוטונומיות יישארו בטוחות בפעולה.

למרבה הצער, כבר היו מקרים בהם סוכני בינה מלאכותית פשוטים, כמו עוזרי תמיכת לקוחות, פעלו מחוץ להכשרתם, וסיפקו או אף תגובות פוגעניות לבקשות לקוחות אנושיים.

הפוטנציאל לשימוש לרעה מסוג זה גדל כמובן ככל שסוכנים רוכשים יותר אוטונומיה ואינטליגנציה.

כתוצאה מכך, ישנם מספר ארגונים חזקים וממומנים היטב כמו זה של איליה סוטסקבר, המתמקדים כעת בהבטחה שבינה מלאכותית בכלל, ומערכות סוכניות בפרט, ידבקו בכללים ברורים וניתנים לניהול והנחיות התנהגות.

הזמן יגיד אם זה מספיק כדי לשמור על כולנו. בטוח.

הבעיה עם בטיחות ואבטחה

אחד האילוצים האחרים על פיתוח מערכות סוכני בינה מלאכותית הוא הדאגה לאבטחה.

לבינה מלאכותית אוטונומית יש יכולת מובנית לסטות מהמסלול ולפעול מחוץ לכללי היישור האתי הכלליים.

לכן, נעשית עבודה רבה כדי לנהל סיכונים אלה, כך שמערכות אוטונומיות יישארו בטוחות בפעולה.

למרבה הצער, כבר היו מקרים בהם סוכני בינה מלאכותית פשוטים, כמו עוזרי תמיכת לקוחות, פעלו מחוץ להכשרתם, וסיפקו או אף תגובות פוגעניות לבקשות לקוחות אנושיים.

הפוטנציאל לשימוש לרעה מסוג זה גדל כמובן ככל שסוכנים רוכשים יותר אוטונומיה ואינטליגנציה.

כתוצאה מכך, ישנם מספר ארגונים חזקים וממומנים היטב כמו זה של איליה סוטסקבר, המתמקדים כעת בהבטחה שבינה מלאכותית בכלל, ומערכות סוכניות בפרט, ידבקו בכללים ברורים וניתנים לניהול והנחיות התנהגות.

הזמן יגיד אם זה מספיק כדי לשמור על כולנו. בטוח.