ข้ามไปยังเนื้อหาหลัก

Google Gemini AI แฮ็กสามบริษัทจริงในระหว่างการทดสอบ

การทดสอบความปลอดภัยทางไซเบอร์ของ Google Gemini AI

ระหว่างการทดสอบ Google พบเหตุการณ์ผิดปกติ: ระบบปัญญาประดิษฐ์ Gemini ของ Google สามารถเข้าถึงระบบขององค์กรจริงสามแห่งได้ นี่คือสิ่งที่เกิดขึ้นและความเสี่ยงที่เทคโนโลยีนี้อาจสร้างขึ้นต่อความปลอดภัยทางไซเบอร์ เมื่อระบบ AI สามารถมีการโต้ตอบกับทรัพยากรภายนอกได้อย่างอิสระ

สิ่งที่เกิดขึ้น: การทดสอบ อินเทอร์เน็ต และชื่อที่ตรงกัน

ในเดือนพฤษภาคม 2026 Google กำลังทดสอบความสามารถด้านความปลอดภัยทางไซเบอร์ของ Gemini การทดสอบนั้นดำเนินการโดยบริษัทอิสระ Irregular โมเดลนี้ควรจะโจมตีองค์กรสมมติในสภาพแวดล้อมที่ควบคุมได้ อย่างไรก็ตาม การเข้าถึงอินเทอร์เน็ตถูกเปิดใช้งานโดยไม่ได้ตั้งใจ ดังนั้นการกระทำของ AI จึงเกินขอบเขตการจำลอง

Irregular อธิบาย ในภายหลังว่าชื่อของบริษัทสมมติบังเอิญตรงกับโดเมนจริง ในการทดสอบส่วนใหญ่ ระบบจะทำงานภายในสภาพแวดล้อมการทดสอบ แต่ในบางกรณี พวกมันเข้าถึงทรัพยากรจริง โดยเชื่อว่าเป็นส่วนหนึ่งของงานที่ได้รับมอบหมาย

ในเดือนกันยายน 2026 สำนักข่าวรอยเตอร์ รายงาน โดยอ้างอิงจาก Google และ The Wall Street Journal ว่า Gemini สามารถเข้าถึงระบบที่ได้รับการป้องกันของสามองค์กรได้ Google กล่าวว่าโมเดลดังกล่าวหยุดการทำงานในทั้งสามกรณี และได้แจ้งให้องค์กรที่ได้รับผลกระทบทราบถึงเหตุการณ์ดังกล่าวแล้ว

วิธีการที่ AI เข้าถึงข้อมูล: รหัสผ่านและแหล่งเก็บข้อมูลสาธารณะ

Gemini ใช้วิธีการที่ค่อนข้างง่ายในการเข้าถึงระบบจริง ในกรณีหนึ่ง โมเดลได้ลองใช้รหัสผ่านจนกว่าจะสามารถเข้าถึงระบบที่ได้รับการป้องกันได้ รายละเอียดของกระบวนการนี้ยังไม่ได้รับการเปิดเผย ดังนั้นจึงไม่ทราบว่า AI ทดสอบรหัสผ่านใดบ้าง หรือต้องลองกี่ครั้ง

ในอีกสองกรณี Gemini ค้นพบข้อมูลประจำตัวในที่เก็บข้อมูลสาธารณะและใช้ข้อมูลเหล่านั้นเพื่อเข้าถึงระบบที่ได้รับการป้องกัน ที่เก็บข้อมูลสาธารณะใช้สำหรับจัดเก็บซอร์สโค้ดและวัสดุอื่นๆ และบางครั้งนักพัฒนาอาจเผยแพร่ข้อมูลประจำตัวโดยไม่ได้ตั้งใจ เหตุการณ์นี้ไม่ได้ระบุอย่างแน่ชัดว่าโมเดลค้นพบอะไร — รหัสผ่านหรือข้อมูลการตรวจสอบสิทธิ์อื่นๆ

Google และ Irregular ตอบสนองต่อเหตุการณ์อย่างไร

หลังจากค้นพบปัญหา Irregular ได้หยุดสถานการณ์การทดสอบและตรวจสอบบันทึกกิจกรรมของโมเดล บริษัทยังได้เสริมความแข็งแกร่งในการควบคุมสภาพแวดล้อมการทดสอบ ขยายการตรวจสอบด้วยตนเองของการกระทำของ AI และสร้างทีมภายในเฉพาะเพื่อประเมินกลไกการแยกและการควบคุมของโมเดล ตามที่ Irregular กล่าว ข้อผิดพลาดที่ทำให้การเข้าถึงอินเทอร์เน็ตยังคงใช้งานได้นั้นได้รับการแก้ไขแล้ว

Irregular แจ้ง Google เกี่ยวกับปัญหานี้ในปลายเดือนกรกฎาคม Google ได้รายงาน เหตุการณ์ดังกล่าวไปยังองค์กรทั้งสามที่ได้รับผลกระทบและหน่วยงานรัฐบาลกลางของสหรัฐฯ นอกจากนี้ Google และ Irregular ยังได้เปลี่ยนแปลงขั้นตอนการทดสอบเพื่อลดความเสี่ยงที่จะเกิดเหตุการณ์ลักษณะเดียวกันขึ้นอีก

Google ไม่ถือว่าเหตุการณ์นี้เป็นหลักฐานว่า Gemini จงใจพยายามหลีกเลี่ยงการควบคุม ตามที่ Google ระบุ โมเดลดังกล่าวได้ปฏิบัติต่อระบบจริงในฐานะส่วนหนึ่งของงานที่ได้รับมอบหมาย และหยุดทำงานในทั้งสามกรณีหลังจากเข้าถึงทรัพยากรจริงแล้ว

เหตุการณ์นี้สร้างความเสี่ยงอะไรให้กับบริษัทและผู้ใช้บ้าง

เหตุการณ์นี้แสดงให้บริษัทเห็นว่าแม้แต่จุดอ่อนด้านความปลอดภัยที่ง่ายๆ ก็อาจกลายเป็นอันตรายมากขึ้นเมื่อระบบ AI เริ่มค้นหา Gemini ไม่ได้ใช้ประโยชน์จากช่องโหว่ที่ไม่รู้จัก: ในกรณีหนึ่ง มันสามารถค้นหารหัสผ่านที่ใช้งานได้ ในขณะที่อีกสองกรณี มันพบข้อมูลประจำตัวที่ถูกเผยแพร่

ปัญหาคือโมเดลสามารถค้นหาข้อมูลออนไลน์ ตรวจสอบ และดำเนินการต่อไปได้อย่างรวดเร็ว หากรหัสผ่านหรือคีย์ที่ใช้งานได้ถูกเปิดเผยโดยไม่ได้ตั้งใจในที่เก็บข้อมูลสาธารณะ นั่นอาจเพียงพอที่จะเข้าถึงระบบภายในได้ ดังนั้นองค์กรควรควบคุมว่าความลับใดบ้างที่ถูกเผยแพร่ด้วยรหัส ใช้ รหัสผ่านที่รัดกุม และเปิดใช้งานการตรวจสอบสิทธิ์แบบหลายปัจจัย

สำหรับผู้ใช้ ความเสี่ยงจะเกิดขึ้นหากระบบที่ถูกบุกรุกมีข้อมูลส่วนตัว ข้อมูลประจำตัวของบัญชี หรือข้อมูลการชำระเงินของพวกเขា หากข้อมูลนี้ตกไปอยู่ในมือของผู้โจมตีทางไซเบอร์ อาจถูกนำไปใช้ในการเข้ายึดบัญชี การฉ้อโกง และการโจมตีอื่นๆ

ในเหตุการณ์ Gemini ยังไม่มีการยืนยันผลกระทบร้ายแรงใดๆ ไม่ทราบว่า AI เข้าถึงข้อมูลอะไรบ้าง หรือรวมถึงข้อมูลส่วนตัวหรือไม่ ดังนั้นจึงไม่ถูกต้องที่จะกล่าวว่าเหตุการณ์นี้เป็นการ ละเมิดข้อมูล ที่ได้รับการยืนยันแล้ว

สิ่งที่บริษัทและผู้ใช้สามารถทำได้: มาตรการป้องกันที่ใช้งานได้จริง

เหตุการณ์นี้ไม่ได้บังคับให้ธุรกิจต้องนำมาตรการรักษาความปลอดภัยใหม่ทั้งหมดมาใช้โดยเฉพาะเพราะ AI Gemini ใช้ประโยชน์จากจุดอ่อนที่ทราบกันมานานแล้ว ได้แก่ การเดารหัสผ่านและการเปิดเผยข้อมูลประจำตัว ดังนั้นงานหลักขององค์กรคือการหลีกเลี่ยงการปล่อยให้ข้อมูลและบัญชีที่เป็นความลับสามารถเข้าถึงได้จากภายนอก

บริษัทควร:

  • สแกนที่เก็บข้อมูลสาธารณะเพื่อหาความลับ : คีย์ API โทเค็น รหัสผ่าน และข้อมูลประจำตัวอื่นๆ ไม่ควรเก็บไว้ในซอร์สโค้ด ใช้การสแกนความลับอัตโนมัติและการควบคุมที่ป้องกันไม่ให้ข้อมูลที่ละเอียดอ่อนถูกเผยแพร่
  • เพิกถอนข้อมูลประจำตัวที่ถูกบุกรุกทันที หากข้อมูลประจำตัวปรากฏในที่เก็บข้อมูลสาธารณะแล้ว ให้เพิกถอนและออกข้อมูลประจำตัวใหม่
  • จำกัดสิทธิ์ของบัญชี ผู้ใช้และบริการควรได้รับสิทธิ์การเข้าถึงเฉพาะที่จำเป็นในการปฏิบัติงานเท่านั้น
  • ปกป้องบัญชีที่สำคัญด้วยปัจจัยเพิ่มเติม การตรวจสอบสิทธิ์แบบสองปัจจัย ช่วยลดความเสี่ยงของการเข้าถึงโดยไม่ได้รับอนุญาตแม้ว่ารหัสผ่านจะถูกเปิดเผยให้ผู้อื่นทราบ
  • ตรวจสอบความพยายามในการเข้าสู่ระบบและการใช้ความลับ บันทึกเหตุการณ์สามารถช่วยในการตรวจพบการเข้าถึงที่ผิดปกติและช่วยให้องค์กรสามารถเพิกถอนข้อมูลประจำตัวได้เร็วขึ้นหากถูกบุกรุก

ผู้ใช้ไม่สามารถควบคุมความปลอดภัยของระบบภายในของทุกบริษัทที่ตนไว้วางใจให้ดูแลข้อมูลได้ แต่พวกเขาสามารถลดผลกระทบจากเหตุการณ์ที่อาจเกิดขึ้นได้ โดยควร:

  • ใช้ รหัสผ่านที่ปลอดภัยและ แยกต่างหากสำหรับแต่ละบริการ;
  • เปิดใช้งานการตรวจสอบสิทธิ์แบบสองขั้นตอน โดยเฉพาะอย่างยิ่งสำหรับอีเมล บริการธนาคาร และบัญชีสำคัญอื่นๆ
  • อย่าใช้รหัสผ่านเดียวกันซ้ำในหลายบริการ
  • หลังจากที่บริษัทรายงานว่าข้อมูลประจำตัวถูกบุกรุก ให้เปลี่ยนรหัสผ่านและออกจากระบบในเซสชันที่ใช้งานอยู่

ยิ่งองค์กรควบคุมข้อมูลประจำตัวและการเข้าถึงระบบได้ดีเท่าไร โอกาสที่ทั้งคนและเครื่องมือ AI จะเข้าถึงโดยไม่ได้รับอนุญาตก็จะยิ่งน้อยลงเท่านั้น

ปกป้องบัญชีและอุปกรณ์ของคุณจากภัยคุกคามทางดิจิทัลโดยอัตโนมัติ

หากข้อมูลประจำตัวถูกบุกรุก อาชญากรไซเบอร์อาจใช้ข้อมูลเหล่านั้นเพื่อการฟิชชิ่งและการโจมตีอื่นๆ Kaspersky Premium ตรวจจับมัลแวร์ บล็อกเว็บไซต์ฟิชชิ่ง และช่วยปกป้องข้อมูลส่วนตัวของคุณโดยอัตโนมัติด้วยความพยายามเพียงเล็กน้อย

ลองใช้ Kaspersky Premium ฟรี

วิธีทดสอบเอเจนต์ AI อย่างปลอดภัย

Irregular ยอมรับว่าเหตุการณ์ที่อธิบายไว้ข้างต้นส่วนใหญ่เกิดจากข้อผิดพลาดในการควบคุมการเข้าถึงอินเทอร์เน็ต และได้เสริมความแข็งแกร่งของสภาพแวดล้อมการทดสอบหลังจากการตรวจสอบ เมื่อทำงานกับ เอเจนต์ AI องค์กรควร:

  • ใช้สภาพแวดล้อมที่แยกต่างหากและทดสอบข้อมูลประจำตัวแทนข้อมูลจริง
  • เก็บบันทึกรายละเอียดของการกระทำของโมเดลและตรวจสอบกิจกรรมนอกขอบเขตที่กำหนด
  • หยุดการทดสอบอย่างรวดเร็วหาก AI เริ่มทำการโต้ตอบกับทรัพยากรที่ไม่คาดคิด

กฎระเบียบและความรับผิดชอบ: ใครเป็นผู้รับผิดชอบต่อเหตุการณ์ที่เกี่ยวข้องกับ AI?

ไม่มีกฎเกณฑ์เดียวที่ครอบคลุมทุกประเทศและทุกระบบ AI และกฎหมายยังคงตามไม่ทันการพัฒนาในด้านนี้ ตัวอย่างเช่น กฎหมาย AI ของยุโรปกำหนดให้ผู้ให้บริการโมเดล AI อเนกประสงค์ที่มีความเสี่ยงเชิงระบบต้องทำการประเมินและทดสอบ ดำเนินการป้องกันความเสี่ยงที่ระบุ รับรองความปลอดภัยทางไซเบอร์ และรายงานเหตุการณ์ร้ายแรง

ในสหรัฐอเมริกา ปัจจุบันยังไม่มีกฎหมาย AI ของรัฐบาลกลางที่ครอบคลุมทุกด้าน กฎความปลอดภัยทางไซเบอร์ที่มีอยู่แล้วอาจใช้กับเหตุการณ์เฉพาะ ในขณะที่ไม่มีข้อกำหนดของรัฐบาลกลางทั่วไปในการรายงานทุกเหตุการณ์ AI ที่อาจเป็นอันตราย

ประเด็นสำคัญ

การอภิปรายเกี่ยวกับ AI มักมุ่งเน้นไปที่ความเสี่ยงระดับโลกต่อมนุษยชาติ แต่เหตุการณ์นี้เน้นให้เห็นถึงปัญหาที่เป็นรูปธรรมมากกว่า โมเดล AI สามารถใช้รหัสผ่านที่อ่อนแอหรือข้อมูลประจำตัวที่เปิดเผยโดยไม่ได้ตั้งใจเพื่อเข้าถึงระบบที่ได้รับการป้องกัน

สำหรับบริษัทต่างๆ นี่เป็นอีกเหตุผลหนึ่งที่จะต้องตรวจสอบ พื้นผิวการโจมตีภายนอก และจำกัดการเข้าถึงระบบที่สำคัญ ผู้ใช้ควรใช้รหัสผ่านที่ไม่ซ้ำกันและการตรวจสอบสิทธิ์แบบสองปัจจัย

บทความที่น่าสนใจ:

ผลิตภัณฑ์แนะนำ:

Google Gemini AI แฮ็กสามบริษัทจริงในระหว่างการทดสอบ

ในระหว่างการทดสอบความปลอดภัย Gemini AI ของ Google ได้เข้าถึงระบบขององค์กรจริงสามแห่ง เรียนรู้ว่าสิ่งนี้เกิดขึ้นได้อย่างไร ความเสี่ยงใดบ้างที่สิ่งนี้ชี้ให้เห็น และวิธีปกป้องข้อมูล
Kaspersky logo

บทความที่เกี่ยวข้อง