การปรับสมดุล AI -การเคลื่อนไหวด้วยการเพิ่มภัยคุกคามทางไซเบอร์ในการดูแลสุขภาพ

ต่อไปนี้เป็นบทความแขกของ Shane Cox ผู้อำนวยการศูนย์ Cyber ​​Fusion ที่ มอร์แกนแฟรงคลินไซเบอร์

ปัญญาประดิษฐ์เปลี่ยนการดูแลสุขภาพด้วยความเร็วที่น่าอัศจรรย์ จากการวินิจฉัยที่คาดการณ์ได้ไปจนถึงการดำเนินงานของหุ่นยนต์ช่วยได้ศักยภาพของ AI ในการปรับปรุงผลลัพธ์ของผู้ป่วยและการปรับปรุงการดำเนินงานที่ไม่อาจปฏิเสธได้ อย่างไรก็ตามในขณะที่โรงพยาบาล บริษัท ประกันภัยและผู้ให้บริการยอมรับระบบอัตโนมัติที่ขับเคลื่อนด้วย AI พวกเขายังเปิดประตูสู่คลื่นลูกใหม่ของความเสี่ยงทางไซเบอร์ AI ไม่ได้เป็นเพียงสินทรัพย์อีกต่อไป นอกจากนี้ยังเป็นความรับผิดชอบหากไม่ปลอดภัยอย่างเหมาะสม

ความคืบหน้าแบบเดียวกันที่ช่วยให้ AI สามารถวิเคราะห์ข้อมูลทางการแพทย์จำนวนมากและตรวจจับโรคได้เร็วกว่าแพทย์มนุษย์คนใดก็ได้ที่สามารถจัดการได้เพื่อเปิดการโจมตีทางไซเบอร์ที่ซับซ้อน ผู้คุกคามกำลังใช้ AI เพื่อออกแบบแคมเปญฟิชชิ่งที่น่าสนใจอย่างมากสร้างเสียงที่ลึกล้ำเพื่อหลอกผู้ดูแลระบบของโรงพยาบาลในการชำระเงินปลอมและทำการโจมตีโดยอัตโนมัติในการปฏิเสธการบริการ (DDOS) ที่สามารถทำให้ระบบสุขภาพที่สำคัญเป็นอัมพาตได้ ในอุตสาหกรรมที่การหยุดทำงานอาจเป็นความแตกต่างระหว่างชีวิตและความตายความพยายามไม่เคยสูงขึ้น

ภัยคุกคามที่ขับเคลื่อนด้วย AI ได้ปรับเปลี่ยนภูมิทัศน์ความปลอดภัยของไซเบอร์

การเปลี่ยนไปต่อต้านการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI ทำให้ทีมรักษาความปลอดภัยด้านสุขภาพเล่นเกมแมวและเมาส์ด้วยความเร็วที่ไม่เคยเกิดขึ้นมาก่อน การฉ้อโกงฟิชชิ่งแบบดั้งเดิมนั้นง่ายต่อการมองเห็นที่เต็มไปด้วยการพิมพ์ผิดและการใช้ถ้อยคำที่น่าอึดอัดใจ ตอนนี้ AI สามารถสร้างที่ไร้ที่ติได้ ฟิชชิ่งที่มีส่วนร่วมมากเกินไป E อีเมลเลียนแบบภาษาน้ำเสียงและความเร่งด่วนของการสื่อสารที่ถูกต้องตามกฎหมาย แม้แต่พนักงานที่มีสติปัญญาก็ยังดิ้นรนเพื่อบอกความแตกต่าง

เทคโนโลยี Deepfake ได้เพิ่มการหลอกลวงอีกชั้นหนึ่ง ลองนึกภาพผู้อำนวยการฝ่ายการเงินของโรงพยาบาลที่ได้รับสายที่ฟังดูเหมือนกับ CFO ที่อนุญาตให้มีการโอนเธรดอย่างเร่งด่วนเพื่อซื้อสินค้าทางการแพทย์ เสียงเป็นที่รู้จักกันดีอย่างน่าขนลุกรายละเอียดตรวจสอบและความกดดันที่จะดำเนินการอย่างรวดเร็วนั้นสูง แต่มันไม่ใช่ CFO มันเป็น deepfake ที่สร้างขึ้นโดย Ai ที่เชื่อมั่นมากพอที่จะข้ามแม้แต่ผู้เชี่ยวชาญที่สงสัยมากที่สุด สถานการณ์เหล่านี้ไม่ได้สมมุติอีกต่อไป พวกเขากำลังเกิดขึ้นตอนนี้

ในเวลาเดียวกันผู้โจมตีก็นำไปใช้ บ็อตเน็ตที่ขับเคลื่อนด้วย AI เพื่อเปิดตัวการโจมตี DDOS ที่ปรับตัวได้มาก แคมเปญเหล่านี้เซิร์ฟเวอร์โรงพยาบาลน้ำท่วมที่มีการจราจรจากแหล่งกระจายระบบที่ท่วมท้นและทำให้พวกเขาไร้ประโยชน์ Botnet ที่ทันสมัยสามารถเรียนรู้และเปลี่ยนแปลงกลยุทธ์แบบเรียลไทม์และหลีกเลี่ยงการป้องกันแบบดั้งเดิม โรงพยาบาลที่ทำงานระบบรักษาความปลอดภัยที่ล้าสมัยนั้นมีความเสี่ยงต่อความผิดปกติเหล่านี้ซึ่งสามารถชะลอขั้นตอนการช่วยชีวิตและประนีประนอมการดูแลผู้ป่วย

ความเสี่ยงโดยธรรมชาติใน AI เอง

ความเสี่ยงของ AI ไม่เพียง แต่ จำกัด เฉพาะผู้โจมตีภายนอก เมื่อดำเนินการอย่างรวดเร็วหรือไม่มีการกำกับดูแลที่แข็งแกร่งระบบ AI สามารถแนะนำช่องโหว่ใหม่และมองข้ามตัวเอง องค์กรด้านสุขภาพหลายแห่งยอมรับ AI เพื่อปรับปรุงการวินิจฉัยปรับปรุงเวิร์กโฟลว์และปรับแต่งแผนการรักษาส่วนบุคคล แต่โมเดลเหล่านี้ดีพอ ๆ กับข้อมูลที่พวกเขาได้รับการฝึกฝน หากนักแสดงที่เป็นอันตรายสามารถเข้าถึงชุดข้อมูลการฝึกอบรมได้พวกเขาสามารถจัดการผลลัพธ์ผ่านการเป็นพิษข้อมูลการฉีดข้อมูลที่เสียหรือบางส่วนที่เอนตัวสำหรับการคาดการณ์และการตัดสินใจ

ผลที่ตามมาจากการโจมตีดังกล่าวอาจร้ายแรง แบบจำลอง AI ที่ถูกจัดการสามารถวินิจฉัยผู้ป่วยได้อย่างผิดพลาดเปลี่ยนคำแนะนำปริมาณหรือจัดลำดับความสำคัญการรักษาตามตัวแปรเท็จ ความเป็นไปได้สำหรับความผิดพลาดที่เงียบและเป็นระบบเป็นข้อกังวลที่เพิ่มขึ้นเนื่องจาก AI จะฝังลึกลงไปในการตัดสินใจทางคลินิก

แชทบอท AI-run และผู้ช่วยเสมือนได้กลายเป็นเรื่องธรรมดาสำหรับการมีส่วนร่วมของผู้ป่วยตั้งแต่ข้อตกลงการวางแผนไปจนถึงการเสนออาการ triage ระบบเหล่านี้ขึ้นอยู่กับ APIs เพื่อสื่อสารข้ามแพลตฟอร์มและการกำหนดค่าที่ไม่ถูกต้องใด ๆ สามารถเลื่อนข้อมูลที่ละเอียดอ่อนได้ API ที่ไม่มีหลักประกันเดียวสามารถเป็นประตูเปิดสำหรับผู้โจมตีที่ประนีประนอมบันทึกผู้ป่วยข้อมูลการประกันภัยและแม้แต่ข้อมูลการทดลองทางคลินิก

ปัญหาเกิดขึ้นกับความจริงที่ว่าองค์กรด้านสุขภาพจำนวนมากขาดการมองเห็นในตำแหน่งความปลอดภัยสำหรับซัพพลายเออร์ AI ของพวกเขาและผู้ให้บริการจำนวนมากรวมเครื่องมือ AI ภายนอกโดยไม่ต้องตรวจสอบโปรโตคอลความปลอดภัยของพวกเขาอย่างเต็มที่ สิ่งนี้สร้างระบบนิเวศที่แยกส่วนและมองไม่เห็นเป็นส่วนใหญ่ซึ่งแอปพลิเคชัน AI ทำงานนอกช่วงของทีมรักษาความปลอดภัยภายในของโรงพยาบาล เมื่อซัพพลายเออร์ขาดแนวทางปฏิบัติด้านความปลอดภัยที่แข็งแกร่งหรือเมื่อการกำกับดูแลไม่เพียงพอความเสี่ยงนี้จะถูกเปิดเผยแบบทวีคูณ

แนวทางใหม่ในการจัดการและการป้องกัน AI

เพื่อลดความเสี่ยงเหล่านี้ผู้นำด้านการดูแลสุขภาพจะต้องใช้นโยบายการจัดการ AI ที่เข้มงวดขึ้นและบังคับใช้การประเมินความเสี่ยงของบุคคลที่สามอย่างเข้มงวดก่อนที่จะรวมเครื่องมือที่ขับเคลื่อนด้วย AI เข้ากับสภาพแวดล้อมของพวกเขา โซลูชั่น AI จะต้องผ่านการตรวจสอบความปลอดภัยการทดสอบการเจาะและการตรวจสอบ API เพื่อให้แน่ใจว่ามีการระบุและแก้ไขช่องโหว่ก่อนที่จะใช้งานได้ นอกจากนี้การใช้สถาปัตยกรรมที่ไม่มีความถี่เป็นศูนย์สามารถช่วยให้มั่นใจได้ว่าเครื่องมือของบุคคลที่สามสามารถเข้าถึงสิ่งที่พวกเขาต้องการได้อย่างแน่นอนลดการเปิดรับแสงที่อาจเกิดขึ้น

สำหรับองค์กรด้านสุขภาพกลยุทธ์การรักษาความปลอดภัยแบบดั้งเดิมนั้นไม่เพียงพออีกต่อไป การป้องกันการโจมตีที่ขับเคลื่อนด้วย AI นั้นต้องการมากกว่าการอัพเกรดเครื่องมือรักษาความปลอดภัยแบบดั้งเดิม กลยุทธ์ความปลอดภัยทั้งหมดต้องพัฒนา ระบบตรวจจับและตอบสนอง (MDR) ต้องรวมการตรวจจับความผิดปกติที่ขับเคลื่อนด้วย AI ซึ่งสามารถแยกแยะระหว่างระบบอัตโนมัติของโรงพยาบาลปกติและพฤติกรรม AI ที่เป็นอันตราย แพลตฟอร์มความปลอดภัยควรคาดเดาได้ไม่เพียง แต่ปฏิกิริยาวิเคราะห์รูปแบบและปรับการป้องกันแบบไดนามิกแบบเรียลไทม์

ในขณะเดียวกันการตอบสนองทางนิติวิทยาศาสตร์ดิจิตอลและเหตุการณ์ (DFIR) ถือวิธีการสืบสวนของพวกเขา วิธีการดั้งเดิมในการติดตามรอยเท้าดิจิตอลและการระบุลายเซ็นมัลแวร์นั้นไม่ได้ผลต่อภัยคุกคามที่สร้างขึ้นเอง ทีมรักษาความปลอดภัยจะต้องพัฒนาความสามารถทางนิติวิทยาศาสตร์ขั้นสูงในการแยกแยะมัลแวร์ Ai ที่สร้างขึ้นใหม่ติดตามการทดลองฉ้อโกงที่ได้รับการยกย่องอย่างลึกซึ้งและตอบโต้โซ่การโจมตีที่ขับเคลื่อนด้วย AI

เพื่อให้การรักษาความปลอดภัยใน Lockstep กับนวัตกรรม

ความปลอดภัยของ AI ไม่สามารถสะท้อนได้อีกต่อไป มันจะต้องฝังอยู่ในแต่ละขั้นตอนของการพัฒนาและการใช้งานตั้งแต่การออกแบบเริ่มต้นไปจนถึงการดำเนินงานประจำวัน ผู้นำด้านความปลอดภัยและนักพัฒนา AI ต้องร่วมมือกันจากระบบเริ่มต้นและสร้างด้วยการควบคุมที่แข็งแกร่งซึ่งจัดลำดับความสำคัญความปลอดภัยของผู้ป่วยและความสมบูรณ์ของข้อมูล

อนาคตของการดูแลสุขภาพขึ้นอยู่กับความสำเร็จของ AIS แต่ความสำเร็จนั้นขึ้นอยู่กับความปลอดภัย อุตสาหกรรมจะต้องดำเนินการในขณะนี้เพื่อสร้างการป้องกันที่ขับเคลื่อนด้วย AI ที่แข็งแกร่งพอที่จะทนต่อการโจมตีที่ขับเคลื่อนด้วย AI

เกี่ยวกับ Shane Cox

Shane Cox เป็นผู้อำนวยการศูนย์ไซเบอร์ฟิวชั่นและการตอบสนองเหตุการณ์ที่ Morganfranklin Cyber ด้วยประสบการณ์กว่า 20 ปีในการดำเนินงานด้านความปลอดภัยทางไซเบอร์เชนเชนเชนเชนในการสร้างและเพิ่มประสิทธิภาพทีมรักษาความปลอดภัยและโปรแกรมสำหรับการตรวจจับและตอบสนองการจัดการแพลตฟอร์มความปลอดภัย EDR/MDR ข้อมูลภัยคุกคามระบบอัตโนมัติการตอบสนองเหตุการณ์และการจัดการช่องโหว่ ที่ Morgan Franklin เขารับผิดชอบการจัดการเชิงกลยุทธ์การเติบโตการเพิ่มประสิทธิภาพและความพึงพอใจของลูกค้าของบริการศูนย์ไซเบอร์ฟิวชั่นและร่วมมืออย่างใกล้ชิดกับผู้นำความปลอดภัยไซเบอร์ในอุตสาหกรรมที่แตกต่างกัน