השבוע בולטים דיווחים על שימוש בבינה גנרטיבית להתקפות סייבר, מודלים מהירים לפרודקשן ויישומים סביבתיים. מחקרים חדשים מציגים גם יכולות הסקה ו״הגיון״ למודלים.
מחקר חדש מתאר כיצד עברייני סייבר עושים שימוש גובר בכלים גנרטיביים כדי לתדלק מתקפות, עם מקרים שבהם בינה גנרטיבית שימשה לפיתוח כופר. המגמה מדגישה צורך דחוף בהיערכות והקשחת תהליכי הגנה.
OpenAI סקרה over 1,000 אנשים ברחבי העולם על איך מערכות בינה צריכות להתנהג והשוותה את הממצאים למסמך Model Spec. הממצאים תומכים בקביעת ברירות מחדל המשקפות ערכים מגוונים וקולות ציבוריים.
מודלי Mercury ו Mercury Coder של Inception Labs זמינים כעת דרך Amazon Bedrock Marketplace ו Amazon SageMaker JumpStart. אלו מודלי שפה מבוססי דיפיוזיה שיכולים לייצר עד 1,100 tokens per second על NVIDIA H100 GPUs, ומדגימים יכולות בגנרציית קוד ובתסריטי שימוש בכלים.
מודל Perch עודכן היום ומשתמש באודיו כדי לסייע בהגנה על מינים בסכנת הכחדה. המודל מסייע לאנשי שימור לנתח נתוני ביאוקאוסטיקה עבור ציפורים ושוניות אלמוגים.
NVIDIA מדגישה את חשיבות מעורבות בני אדם בהוראת הסקה ושכל ישר למודלים, כולל עקרונות שנראים מובנים מאליהם לבני אדם כמו שמראות מחזירות אור וקרח נמס למים.
כיצד יועץ בינה מלאכותית יכול לסייע בהקשר זה: תכנון תהליך לניהול סיכוני בינה גנרטיבית ואירועי רנסומוור, בחירת מודלים ותשתיות מתאימות כגון פריסה דרך Bedrock ו SageMaker JumpStart, הטמעת מנגנוני יישור ובקרה בהתאם ל Model Spec.
בקצרה:
- איום מתגבר של ״כופר״ הנוצר בעזרת בינה גנרטיבית.
- in the loop יישור ברירת מחדל המבוסס על קולות ציבוריים רחבים.
- מודלי Mercury מסוגלים עד 1,100 tokens per second על NVIDIA H100 GPUs.
- מודלים פשוטים עשויים להצליח יותר מחישת למידה עמוקה בתחזיות אקלים מקומיות.
- Perch מנתח אודיו להגנה על מינים בסכנת הכחדה.
- הוראת הסקה והגיון למודלים באמצעות בני אדם.
לקריאה נוספת
- The Era of AI-Generated Ransomware Has Arrived
- Collective alignment: public input on our Model Spec
- Mercury foundation models from Inception Labs are now available in Amazon Bedrock Marketplace and Amazon SageMaker JumpStart
- Simpler models can outperform deep learning at climate prediction
- The AI model Perch, updated today, uses audio to help protect endangered species
- How Do You Teach an AI Model to Reason? With Humans
