คอมพิวเตอร์ป้อมปราการที่แข็งแกร่งขึ้น
Visit the creator : magazineasp
ข่าวดีสำหรับคนที่ใช้ ChatGPT แบบเสียเงิน! ตอนนี้ OpenAI เปิดตัวฟีเจอร์ใหม่ “ChatGPT Agent” ที่ทำให้ ChatGPT สามารถทำงานแทนคนได้จริงๆ เช่น เข้าอีเมลตอบเมลเอง ดาวน์โหลดและสร้างไฟล์ต่างๆ ได้เหมือนมีผู้ช่วยดิจิทัลส่วนตัวเลยทีเดียว
แต่พอให้ AI ทำงานอะไรแทนเราได้มากขนาดนี้ ก็ต้องมีเรื่องความปลอดภัยตามมา เพราะต้องไว้ใจให้ AI ใช้บัญชีและข้อมูลสำคัญของเราได้โดยไม่มีปัญหา OpenAI จึงส่งทีม “Red Team” ซึ่งเป็นกลุ่มผู้เชี่ยวชาญด้านความปลอดภัยกว่า 16 คน มาทดสอบหาจุดอ่อนของระบบในเวลาจำกัดแค่ 40 ชั่วโมงเท่านั้น
งานของทีมนี้คือพยายามโจมตีระบบในรูปแบบต่างๆ ทั้งการฝังคำสั่งที่ลับๆ ในข้อความ การพยายามล้วงข้อมูลสำคัญ หรือแม้แต่ค้นหาความเสี่ยงทางชีวภาพ (เช่น ข้อมูลที่นำไปสร้างอาวุธชีวภาพได้) โดยยิงโจมตีทั้งหมดกว่า 110 ครั้ง จนพบด้วยกัน 7 ช่องโหว่ใหญ่ที่อาจถูกแฮกเกอร์ใช้ทำร้ายระบบได้
ผลลัพธ์หลังจากการทดสอบและแก้ไข คือ ChatGPT Agent มีการป้องกันที่ดีขึ้นมาก สามารถต้านการโจมตีได้ถึง 95% จากประเภทคำสั่งแอบแฝงที่ซ่อนในหน้าเว็บ หรือป้องกันการรั่วไหลของข้อมูลส่วนตัวได้ในระดับสูง นอกจากนี้ OpenAI ยังเพิ่มระบบตรวจสอบการใช้งานแบบสองชั้น เพื่อจับตาทุกการเคลื่อนไหวอย่างเต็มที่แบบเรียลไทม์
หลายมาตรการเข้มงวดที่เพิ่มมา เช่น ถ้า AI กำลังเข้าถึงข้อมูลสำคัญ เช่น บัญชีธนาคาร หรืออีเมล ระบบจะหยุดทำงานทันทีถ้าผู้ใช้เลื่อนหน้าต่างออกไป เพื่อป้องกันข้อมูลรั่วไหล และฟีเจอร์ “ความจำ” ที่ไว้วางใจได้ก็ถูกปิดไว้ก่อน เพื่อไม่ให้ข้อมูลค่อยๆ รั่วไหลเมื่อใช้เวลานาน
นอกจากนี้ OpenAI ยังตั้ง “โปรแกรมหาบั๊ก” เรื่องความปลอดภัยชีวภาพ เพื่อจับจุดอ่อนใหม่ๆ ที่อาจเกิดขึ้นในอนาคต
สรุปแล้ว การทดสอบสุดโหดจากทีม Red Team ครั้งนี้ช่วยให้ ChatGPT Agent กลายเป็นเหมือน “ป้อมปราการ” ที่แข็งแกร่งขึ้นมาก พร้อมใช้งานจริงได้อย่างมั่นใจมากขึ้น และย้ำให้เห็นว่าการมีทีมทดสอบที่เก่งๆ น่ะสำคัญขนาดไหน ในโลกที่ AI รับบทบาทมากขึ้นทุกวัน
ใครอยากรู้ข่าวสาร AI แบบเจาะลึก ก็อย่าพลาดการสัมมนา “AI Impact Series” ที่ซานฟรานซิสโก 5 สิงหาคมนี้ด้วยนะ!,
#คอมพิวเตอร์ป้อมปราการ
#Computer Fortress #ความปลอดภัยไซเบอร์
#Cybersecurity #เชื่อง AI
#Artificial Intelligence-Based Security
magazineasp
