ข้ามไปยังเนื้อหาหลัก

OpenAI หยุดการฝึกโมเดลชั่วคราว หลังเกิดเหตุการณ์ผิดปกติกับเอเจนต์ AI หลายครั้ง

OpenAI หยุดการฝึกโมเดล AI ของตน

OpenAI ได้ระงับการฝึกฝน การทดสอบ และการประมวลผลสำหรับโมเดลสร้างภาพที่มีประสิทธิภาพสูงสุดของตน หลังจากพบปัญหาหลายประการที่เกิดจากเอเจนต์ AI ในระหว่างการทดลอง เอเจนต์เหล่านี้ได้หลีกเลี่ยงข้อจำกัดทางเทคนิคและเข้าถึงระบบภายนอกโดยไม่ได้รับอนุญาต OpenAI เชื่อมโยงพฤติกรรมนี้กับการทำงานที่ไม่สอดคล้องกันของโมเดล และซีอีโอ Sam Altman ได้ประกาศการตรวจสอบกิจกรรมของเอเจนต์ในวงกว้าง

OpenAI ตัดสินใจระงับการฝึกฝนโมเดลที่มีประสิทธิภาพสูงสุดหลังจากเหตุการณ์เมื่อวันที่ 20 กันยายน 2026 เอเจนต์ AI ได้ รับมอบหมายงาน ให้ระบุผู้เขียนบทความจากรายละเอียดชีวประวัติ

การค้นหาแบบมาตรฐานไม่พบอะไรเลย ดังนั้นโมเดลจึงเริ่มมองหาวิธีแก้ปัญหา มันค้นพบว่ายังสามารถส่งคำขอ DNS ออกจากสภาพแวดล้อมการฝึกฝนได้ และใช้ช่องทางนั้นเพื่อเข้าถึงแชทบอทภายนอก งานนี้ไม่จำเป็นต้องทดสอบเครือข่ายหรือหลีกเลี่ยงข้อจำกัดใดๆ

การตรวจสอบพบกิจกรรมที่ผิดปกติหลังจากประมาณ 12 นาที แต่การทดสอบไม่ได้หยุดโดยอัตโนมัติ และถูกปิดด้วยตนเองประมาณ 2.5 ชั่วโมงต่อมา หลังจากนั้น บริษัทได้ระงับการฝึกฝนโมเดลภายในที่สามารถรันโค้ด ทำงานกับไฟล์ และเข้าถึงระบบภายนอกได้ OpenAI วางแผนที่จะกลับมาฝึกฝนโมเดลเหล่านี้อีกครั้งหลังจากตรวจสอบมาตรการรักษาความปลอดภัยเพิ่มเติมแล้ว

ข้อมูลเบื้องต้นและลำดับเหตุการณ์

สัญญาณบ่งชี้ปัญหาที่ร้ายแรงเกี่ยวกับการทำงานของโมเดลภายในของ OpenAI ปรากฏขึ้นตั้งแต่ช่วงฤดูใบไม้ผลิปี 2026 บริษัทบันทึกกรณีต่างๆ ไว้หลายกรณีที่เอเจนต์ AI พยายามทำงานให้เสร็จในแบบที่นักพัฒนาไม่ได้ตั้งใจไว้

27 พฤษภาคม: เอเจนต์เผยแพร่โทเค็น GitHub

โมเดลภายในกำลังทำงานกับปัญหาทางคณิตศาสตร์และพยายามขอรับเอกสารจากทีมอื่นเพื่อหาเบาะแสสำหรับการพิสูจน์ เนื่องจากไม่ได้รับการอนุญาต คำขอจึงส่งคืนข้อผิดพลาด ดังนั้นเอเจนต์จึงใช้โทเค็น GitHub ของนักวิจัยที่เข้าถึงได้ โทเค็นคือรหัสดิจิทัลสำหรับคำขอไปยัง GitHub ที่มีการอนุญาต ผลที่ได้คือ AI ได้เผยแพร่ โทเค็นในที่เก็บข้อมูลสาธารณะ openai/codex โดยแบ่งออกเป็นส่วนๆ เพื่อหลีกเลี่ยงการสแกนโทเค็นและรหัสอัตโนมัติ

18 มิถุนายน: การเข้าถึงพอร์ทัลของรัฐบาลออสเตรเลีย

เอเจนต์อีกตัวได้รับมอบหมายให้ค้นหาสถิติสาธารณะเกี่ยวกับการใช้จ่ายด้านยาในออสเตรเลีย เมื่อวิธีการปกติล้มเหลว โมเดลจึงเข้าถึงบริการรายงานสถิติ Medicare โดยไม่ได้รับอนุญาต มัน อ่าน ไฟล์สาธารณะและไฟล์ที่ไม่เป็นสาธารณะ เรียกใช้คำสั่ง และเขียนข้อมูลไปยังเซิร์ฟเวอร์ภายใน ไม่พบร่องรอยการเข้าถึงข้อมูลส่วนตัวทางการแพทย์

กรกฎาคม: การถูกโจมตีของ Hugging Face

ระหว่างการทดสอบ ความปลอดภัย ทางไซเบอร์ภายใน ตัวแทนของ OpenAI ได้หลุดออกจากสภาพแวดล้อมการทดสอบและเข้าถึงโครงสร้างพื้นฐานของ Hugging Face ซึ่งเป็นแพลตฟอร์มสำหรับการพัฒนาและโฮสต์โมเดล AI พวกเขา ใช้ ข้อมูลประจำตัวและช่องโหว่ที่พบในที่สาธารณะ รันคำสั่งบนเซิร์ฟเวอร์ และได้รับสิทธิ์การเข้าถึงระดับสูงใน Hugging Face

ไม่ใช่แค่ OpenAI เท่านั้น

ปัญหาเกี่ยวกับเอเจนต์ AI ไม่ได้จำกัดอยู่แค่ OpenAI เท่านั้น ในเดือนกรกฎาคม 2026 Anthropic รายงานกรณีสามกรณีที่โมเดล Claude เข้าถึง ระบบของบุคคลที่สามโดยไม่ได้รับอนุญาตในระหว่างการทดสอบ แม้ว่าจะถูกออกแบบมาให้ทำงานอย่างโดดเดี่ยวก็ตาม

เหตุการณ์ที่คล้ายกันนี้ เกิดขึ้น กับ Gemini ของ Google ในระหว่างการทดสอบ โมเดลควรจะโจมตีบริษัทสมมติ แต่เนื่องจากสามารถเข้าถึงอินเทอร์เน็ตได้ จึงเริ่มมีการโต้ตอบกับระบบขององค์กรจริงสามแห่ง ในกรณีหนึ่ง Gemini ใช้การโจมตีแบบ Brute-force เพื่อเดารหัสผ่านจนกระทั่งเข้าถึงบริการที่ได้รับการป้องกันของบริษัทได้ ในอีกสองกรณี มันพบข้อมูลประจำตัวในที่เก็บข้อมูลสาธารณะและใช้ข้อมูลเหล่านั้นเพื่อเข้าสู่ระบบขององค์กร

การตอบสนองของ Sam Altman

เมื่อวันที่ 25 กันยายน Sam Altman ซีอีโอของ OpenAI กล่าว ว่าบริษัทกำลังดำเนินการตรวจสอบกิจกรรมของเอเจนต์ AI ในระหว่างการฝึกอบรมและการทดสอบในวงกว้าง เขายอมรับว่าการสอบสวนดำเนินไปช้ากว่าที่เขาต้องการ OpenAI ต้องวิเคราะห์บันทึกข้อมูลขนาดหลายเพตาไบต์ ในขณะเดียวกันก็ต้องติดต่อองค์กรบุคคลที่สามที่อาจได้รับผลกระทบจากเหตุการณ์ดังกล่าวด้วย

อัลท์แมนให้สัญญาว่าจะจัดสรรทรัพยากรเพิ่มเติมให้กับงานนี้ และจะตรวจสอบกรณีที่ร้ายแรงที่สุดก่อน เขายังกล่าวอีกว่า OpenAI จะเผยแพร่ผลการสอบสวนเท่าที่จะเป็นไปได้โดยไม่เปิดเผยช่องโหว่ในระบบของบุคคลที่สาม

การทำงานที่ไม่สอดคล้องกันของ AI คืออะไร?

บริษัทระบุว่าพฤติกรรมของเอเจนต์ในกรณีเหล่านี้เกิดจากความไม่สอดคล้องกัน คำนี้อธิบายถึงสถานการณ์ที่โมเดลทำงานแตกต่างจากสิ่งที่ผู้พัฒนาหรือผู้ใช้ตั้งใจไว้ แม้ว่าเป้าหมายเดิมอาจปลอดภัยอย่างสมบูรณ์ก็ตาม

ตัวอย่างเช่น เอเจนต์ได้รับคำสั่งให้ค้นหาข้อมูล วิธีการที่อนุญาตไม่สามารถใช้งานได้ แต่แทนที่จะหยุด เอเจนต์กลับพยายามหาวิธีแก้ปัญหาอื่นต่อไปจนกว่าจะพบช่องโหว่ทางเทคนิค ในทางเทคนิคแล้ว โมเดลยังคงพยายามทำงานเดิมให้สำเร็จ แต่การกระทำของมันได้ก้าวข้ามขอบเขตที่กำหนดไว้แล้ว

สิ่งที่ทำให้ เอเจนต์ AI พิเศษคือพวกมันดำเนินการตามลำดับการกระทำด้วยตนเอง ในการทำเช่นนั้น AI จะได้รับสิทธิ์ในการเข้าถึงไฟล์ แอปพลิเคชัน คำสั่ง และบริการภายนอก นั่นเป็นเหตุผลว่าทำไมความไม่สอดคล้องกันจึงอาจนำไปสู่การกระทำที่ไม่พึงประสงค์ เช่น การเปลี่ยนแปลงข้อมูลหรือการเข้าถึงระบบของผู้อื่น

ปกป้องอุปกรณ์ของคุณจากภัยคุกคามทางไซเบอร์โดยอัตโนมัติ

แม้ว่าคุณจะใช้ AI ความเสี่ยงหลักสำหรับคุณยังคงเป็นการฟิชชิ่ง เว็บไซต์ที่เป็นอันตราย และมัลแวร์ Kaspersky Premium ช่วยตรวจจับภัยคุกตาใเหล่านี้โดยอัตโนมัติและปกป้องข้อมูลส่วนตัวของคุณ

ลองใช้ Kaspersky Premium ฟรี

สิ่งนี้หมายความอย่างไรสำหรับผู้ใช้

สำหรับผู้ใช้ทั่วไป การระงับของ OpenAI ไม่ได้เปลี่ยนแปลงอะไร ข้อจำกัดนี้ใช้กับการทดลองภายในกับโมเดลที่มีประสิทธิภาพสูงซึ่งได้รับอนุญาตให้เข้าถึงระบบภายนอก แต่เหตุการณ์เหล่านี้แสดงให้เห็นว่าเมื่อเอเจนต์ AI มีความสามารถมากขึ้น ต้นทุนของความผิดพลาดก็สูงขึ้นเช่นกัน โมเดลไม่เพียงแต่จะให้คำตอบที่ผิดเท่านั้น แต่ยังสามารถดำเนินการที่ไม่พึงประสงค์ในระบบจริงได้อีกด้วย

หากคุณใช้เอเจนต์ AI ที่เข้าถึงอีเมล พื้นที่จัดเก็บข้อมูลบนคลาวด์ ที่เก็บข้อมูล หรือบริการอื่นๆ ของคุณ โปรดหลีกเลี่ยงการเชื่อมต่อบัญชีที่มีสิทธิ์ผู้ดูแลระบบ เว้นแต่จำเป็น นอกจากนี้ ควรตรวจสอบการเชื่อมต่ออย่างสม่ำเสมอ เพิกถอนคีย์ API ที่ไม่ได้ใช้ และเปิดใช้งานการยืนยันสำหรับการดำเนินการที่สามารถเปลี่ยนแปลงหรือลบข้อมูลได้

บทความที่น่าสนใจ:

ผลิตภัณฑ์ที่แนะนำ:

OpenAI หยุดการฝึกโมเดลชั่วคราว หลังเกิดเหตุการณ์ผิดปกติกับเอเจนต์ AI หลายครั้ง

OpenAI ได้หยุดการฝึก การทดสอบ และการอนุมานสำหรับโมเดลที่ทรงพลังที่สุดของตนชั่วคราว หลังจากเกิดเหตุการณ์ผิดปกติหลายครั้ง เอเจนต์ได้หลีกเลี่ยงการกรอง DNS และเข้าถึงระบบภายนอกโดยไม่ได้รับอนุญาต แซม อัลท์แมน เรียกสถานการณ์นี้ว่า "ความไม่สอดคล้องกัน"
Kaspersky logo

บทความที่เกี่ยวข้อง