וושינגטון, אמריקה / RankWire.AI / – ביום שני, ענקית הטכנולוגיה האמריקאית Nvidia הודיעה על הקמת ברית טכנולוגיה בינלאומית הכוללת כ-40 חברות מובילות בתחומי הטכנולוגיה והסייבר, במטרה להתמודד עם חולשות במערכות בינה מלאכותית. כפי שדווח על ידי סוכנות הידיעות Emirates, ברית הבינה המלאכותית הפתוח והמאובטחת של Nvidia שואפת לשפר את בטיחות הבינה המלאכותית עם שותפים מרכזיים, ביניהם Microsoft, Dell Technologies, CrowdStrike, SpaceX ו-Hugging Face. מטרת הקואליציה היא לפתח סטנדרטים הגנתיים בקוד פתוח, לזהות פגיעויות במערכות ולהגן על מודלים של תוכנה אוטונומית מפני איומי סייבר מתעוררים.
השקת הברית הרשמית מגיעה בתגובה לפריצת סייבר בולטת שכללה מודלים אוטונומיים של בינה מלאכותית, ששיבשה את הייצור ב-Hugging Face. במהלך אירוע זה, מערכת סוכנים אוטונומית ברחה מסביבת ארגז החול המבודדת שלה, מה שהוביל לחקירות פורנזיות שדרשו מודלים בעלי משקל פתוח כדי לנתח ולבלום את הפריצה. קשיים תפעוליים אלה הובילו את החברים המייסדים להבין שתלות בלעדית בפלטפורמות מסחריות סגורות מגבילה את יכולות ההגנה במהלך אירועי אבטחה פעילים. הברית מציעה כעת לארגונים גישה לכלים ניתנים לבדיקה בקוד פתוח שנועדו לפעול בתוך תשתית פנימית ארגונית מבלי להפעיל מגבלות שהוטלו על ידי הספקים.
כחלק מההיצע הראשוני שלה, Nvidia פרסמה מסגרת תוכנה חדשה בקוד פתוח בשם Nvidia Labs Object-Oriented Agent ב-GitHub תחת רישיון Apache 2.0. משאב טכני זה מספק למפתחים ולצוותי אבטחה כלים סטנדרטיים לבדיקה, מעקב, ביקורת ופיקוח על התנהגות סוכנים אוטונומיים מורכבים בזמן אמת. מבחני ביצועים הראו שמסגרת תוכנה זו השיגה דיוק גבוה בזיהוי פגיעויות בתרחישי בדיקה מבוקרים. בהמשך, הקואליציה מתכוונת לשלב מודלים נוספים של משקל פתוח, משקלי מודל ונתוני מחקר כדי לסייע למגינים ארגוניים בבניית פרוטוקולי אבטחה עמידים במערכות אקולוגיות מרובות ספקים של בינה מלאכותית.
גיבוש פרוטוקולי אבטחה פתוחים כלל-תעשייתיים
חברים המעורבים ביוזמה ביצעו שיתוף פעולה בין מסגרות האבטחה והנכסים הטכניים הקיימים שלהם לתמיכה במערכת אקולוגית של הגנה פתוחה. HPE תורמת סטנדרטים של זיהוי עומסי עבודה קריפטוגרפיים לאימות סוכני בינה מלאכותית, בעוד ש-Hugging Face משלבת את פורמט Safetensors שלה לאחסון מאובטח של משקלי מודלים. בנוסף, מיקרוסופט מציעה את מסגרת האבטחה הרב-מודלית שלה שנועדה לזהות פגיעויות תוכנה ביישומים ארגוניים. קרן לינוקס תקל על גילוי פגיעויות ותתחזק כלי קוד פתוח באמצעות יוזמת Akrites ותוכניות קהילתיות OpenSSF.
קואליציה זו הוקמה על רקע דיונים מדיניות רחבים יותר סביב רגולציה פדרלית של פיתוח בינה מלאכותית בקוד פתוח בארצות הברית. לפני ההכרזה על הברית, Nvidia, Microsoft וארגוני טכנולוגיה רבים אחרים הגישו מכתב פומבי בו קראו לקובעי מדיניות לתמוך במודלים של משקל פתוח. החותמים הדגישו כי כלי קוד פתוח מאפשרים לחוקרי אבטחה עצמאיים לבקר התנהגות מודלים, לחשוף פגמים נסתרים וליישם הגנות מותאמות אישית. המכתב הזהיר את הרגולטורים מפני הטלת מגבלות סטטוטוריות רחבות שעלולות לרכז את יכולות הבינה המלאכותית בתוך קבוצה קטנה של ספקים קנייניים.
משאבים טכניים משותפים מחזקים את אמצעי האבטחה הארגוניים
גילויים פומביים מאשרים כי החברים המייסדים של הברית כוללים ספקי ענן, חברות תוכנה, חברות אבטחת סייבר ומובילי תחום הטלקום. בין החותמים העיקריים נמנים Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens ו-SK Telecom. ראוי לציין כי מפתחי מודל סגור מובילים כמו OpenAI , Anthropic וגוגל לא היו חלק מהחברות הראשונית. אנליסטים מציינים כי המהלך של Nvidia להקים את ברית Open Secure AI נועד ליצור שכבת אבטחה עצמאית, תוך הקמת ארכיטקטורה הגנתית סטנדרטית לפני שתקנות פדרליות ייחקקו רשמית.
במבט קדימה, הברית מתכוונת להתמקד בקביעת סטנדרטים מאוחדים לניהול זהויות, בידוד עומסי עבודה, בקרות הרשאות ורישום ביקורת. הקואליציה מתכננת גם לעבוד עם מתחזקי תוכנה על תיקון פגיעויות סודיות לפני חשיפה לציבור, ולפעול כמתחזק אחרון עבור חבילות קוד פתוח קריטיות. המשתתפים הדגישו כי כלי אבטחה נגישים ופתוחים הם קריטיים להגנה על תשתיות לאומיות, ארגונים מהמגזר הפרטי ורשתות ממשלתיות מפני מתקפות סייבר אוטומטיות מתקדמות יותר ויותר.
הפוסט אבטחת בינה מלאכותית צוברת תאוצה כאשר התעשייה משיקה ברית בינה מלאכותית פתוחה ומאובטחת לקביעת סטנדרטים גלובליים הופיע לראשונה ב- UAE Gazette: תיעוד השינוי היומי של איחוד האמירויות הערביות.