AI Agents จะฉวยโอกาสมากขึ้นจากการพิสูจน์ตัวตนที่อ่อนแอลง ด้วยการโจรกรรมข้อมูลส่วนตัวอัตโนมัติและช่องทางสื่อสารที่ใช้เพื่อยืนยันตัวตนต่าง ๆ ที่หละหลวม
การ์ทเนอร์คาดการณ์ในอีกสองปีข้างหน้านี้ (พ.ศ. 2570) AI Agents จะลดเวลาในการโจมตีช่องโหว่ของบัญชีลง 50%
Jeremy D’Hoinne รองประธานนักวิเคราะห์ การ์ทเนอร์ กล่าวว่า “การยึดบัญชี หรือ ATO ยังคงเป็นการโจมตีที่เติบโตอย่างต่อเนื่อง อันเนื่องมาจากข้อมูลการยืนยันตัวตนที่ยังไม่แข็งแรงพอ เช่น รหัสผ่าน ที่ถูกรวบรวมด้วยวิธีการต่าง ๆ และการรั่วไหลของข้อมูล การฟิชชิ่ง การหลอกลวงทางวิศวกรรมสังคมหรือ Social Engineering และมัลแวร์ โดยแฮกเกอร์จะใช้บอทอัตโนมัติเข้าสู่ระบบของบริการต่าง ๆ โดยหวังว่าข้อมูลยืนยันตัวตนนั้น ๆ จะถูกนำมาใช้ซ้ำอีกในแพลตฟอร์มอื่น ๆ ด้วย”
AI Agents จะทำให้การทำงานในขั้นตอนต่าง ๆ ของการยึดบัญชี (ATO) เป็นอัตโนมัติมากขึ้น ตั้งแต่การหลอกลวงทางกระบวนการวิศวกรรมสังคมโดยใช้เสียง Deepfake ไปจนถึงการละเมิดข้อมูลประจำตัวผู้ใช้แบบครบวงจรอย่างอัตโนมัติ
จากกรณีนี้ทำให้ผู้ให้บริการจะต้องแนะนำผลิตภัณฑ์เพื่อตรวจจับ ติดตาม และจำแนกการโต้ตอบที่เกี่ยวข้องกับ AI Agent ทั้งในช่องทางเว็บ, แอป, API และเสียง
Akif Khan รองประธานนักวิเคราะห์ของการ์ทเนอร์กล่าวเสริมว่า “เมื่อต้องเผชิญกับภัยคุกคามที่เปลี่ยนแปลงเหล่านี้ ผู้นำความปลอดภัยควรเร่งการเปลี่ยนไปใช้เทคโนโลยีการรับรองความถูกต้องแบบหลายปัจจัยเพื่อป้องกันการฟิชชิ่ง (MFA) แบบไม่ต้องใช้รหัสผ่าน สำหรับเคสการใช้งานลูกค้าที่ผู้ใช้อาจมีตัวเลือกในการยืนยันตัวตน การให้ความรู้และสร้างแรงจูงใจกับผู้ใช้ให้ย้ายจากรหัสผ่านไปสู่การใช้ Passkey กับอุปกรณ์หลากหลายได้อย่างเหมาะสม”
การป้องกันการโจมตีทางวิศวกรรมสังคมที่กำลังขยายตัวเพิ่มขึ้น
นอกจากปัญหาการ ATO แล้ว วิศวกรรมสังคมที่ใช้เทคโนโลยียังเป็นภัยคุกคามสำคัญต่อความมั่นคงทางไซเบอร์ขององค์กรเช่นกัน การ์ทเนอร์คาดการณ์ว่าในปี พ.ศ. 2571 การโจมตีด้วยวิศวกรรมสังคม 40% จะมุ่งเป้าไปที่ผู้บริหารและพนักงานในวงกว้าง ปัจจุบันแฮกเกอร์กำลังผสานกลยุทธ์โจมตีวิศวกรรมสังคมเข้ากับเทคนิคการปลอมแปลงเสมือนจริง อาทิ เสียงและวิดีโอแบบ Deepfake เพื่อหลอกลวงพนักงานระหว่างการโทรติดต่อ
แม้ว่าจะมีการรายงานไม่กี่เคส แต่เหตุการณ์เหล่านี้ย้ำให้เห็นถึงความน่าเชื่อถือของภัยคุกคามและส่งผลให้องค์กรที่ตกเป็นเหยื่อสูญเสียทางการเงินเป็นจำนวนมหาศาล ขณะที่การตรวจจับ Deepfake ยังอยู่ในขั้นเริ่มต้นและเป็นความท้าทาย โดยเฉพาะเมื่อนำไปใช้กับการโจมตีที่หลากหลายในชั้นเบื้องต้นของการสื่อสารด้วยเสียงและวิดีโอเรียลไทม์ระหว่างบุคคลบนแพลตฟอร์มต่าง ๆ
Manuel Acosta ผู้อำนวยการอาวุโสฝ่ายนักวิเคราะห์ของการ์ทเนอร์กล่าวเพิ่มเติมว่า “องค์กรจะต้องติดตามสถานการณ์ในตลาดอย่างใกล้ชิด และปรับเปลี่ยนขั้นตอน รวมถึงกระบวนการทำงานเพื่อต้านทานการโจมตีที่ใช้เทคนิคการปลอมแปลงเสมือนจริงเพื่อป้องกันได้ดีขึ้น การให้ความรู้แก่พนักงานเกี่ยวกับภูมิทัศน์ภัยคุกคามที่เปลี่ยนแปลงโดยอาศัยการฝึกอบรมในหัวข้อเฉพาะถึงแนวทางการรับมือกับภัยการหลอกลวงทางวิศวกรรมสังคมด้วย Deepfake จึงเป็นแนวทางที่สำคัญ”
Gartner Predicts AI Agents Will Reduce The Time It Takes To Exploit Account Exposures by 50% by 2027
– AI Agents Will Increasingly Exploit Weak Authentication by Automating Credential Theft and
Compromising Authentication Communication Channels
By 2027, AI agents will reduce the time it takes to exploit account exposures by 50% according to Gartner, Inc.
“Account takeover (ATO) remains a persistent attack vector because weak authentication credentials, such as passwords, are gathered by a variety of means including data breaches, phishing, social engineering and malware,” said Jeremy D’Hoinne, VP Analyst at Gartner. “Attackers then leverage bots to automate a barrage of login attempts across a variety of services in the hope that the credentials have been reused on multiple platforms.”
AI agents will enable automation for more steps in ATO, from social engineering based on deepfake voices, to end-to-end automation of user credential abuses.
Because of this, vendors will introduce products web, app, API and voice channels to detect, monitor and classify interactions involving AI agents.
“In the face of this evolving threat, security leaders should expedite the move toward passwordless phishing-resistant MFA,” said Akif Khan, VP Analyst at Gartner. “For customer use cases in which users may have a choice of authentication options, educate and incentivize users to migrate from passwords to multidevice passkeys where appropriate.”
Defending Against The Rise and Expansion of Social Engineering Attacks
Along with ATO, technology-enabled social engineering will also pose a significant threat to corporate cybersecurity. Gartner predicts 40% of social engineering attacks will target executives as well as the broader workforce by 2028. Attackers are now combining social engineering tactics with counterfeit reality techniques, such as deepfake audio and video, to deceive employees during calls.
Although only a few high-profile cases have been reported, these incidents have underscored the credibility of the threat and resulted in substantial financial losses for victim organizations. The challenge of detecting deepfakes is still in its early stages, particularly when applied to the diverse attack surfaces of real-time person-to-person voice and video communications across various platforms.
“Organizations will have to stay abreast of the market, and adapt procedures and workflows in an attempt to better resist attacks leveraging counterfeit reality techniques,” said Manuel Acosta, Sr. Director Analyst at Gartner. “Educating employees about the evolving threat landscape by using training specific to social engineering with deepfakes is a key step.”
