หลังจาก Meta AI ปัจจุบัน OpenAI จะถูกประเมินต่ำกว่าหลังจากที่ได้รับการเปิดเผยว่าข้อบกพร่องบนแพลตฟอร์ม ChatGPT อนุญาตให้ผู้ใช้สามารถลงทะเบียนเป็นผู้เยาว์เข้าถึงเนื้อหาทางเพศ และ รายงาน โดย techcrunch เขาเปิดเผยว่า Chatbot AI ยอดนิยมภายใต้เงื่อนไขบางประการสร้างการสนทนาทางเพศสำหรับบัญชีที่ระบุผู้ใช้ที่มีอายุต่ำกว่า 18 ปี Opeli ยืนยันปัญหาโดยมอบหมายให้ “ข้อผิดพลาด” และระบุว่าเงินทุนถูกนำไปแก้ปัญหา
ดูเหมือนว่าเหตุการณ์จะเกี่ยวข้องกับการแก้ไขล่าสุดในหลักการปฏิบัติการของเนื้อหา OpenAI เมื่อต้นปีที่ผ่านมาในเดือนกุมภาพันธ์ บริษัท ประกาศการเปลี่ยนแปลงหลายอย่างและทำให้ CHATGPT เป็นที่ยอมรับมากขึ้นในแง่ของหัวข้อที่ละเอียดอ่อน ซึ่งรวมถึงการลบข้อความเตือนบางอย่างที่ก่อนหน้านี้แจ้งผู้ใช้เกี่ยวกับการละเมิดที่อาจเกิดขึ้นจากบริการของ บริษัท ตามที่หัวหน้าผลิตภัณฑ์ Opeli, Nick Turley การเปลี่ยนแปลงมุ่งเป้าไปที่การลด “การปฏิเสธที่ไม่ยุติธรรม/อธิบายไม่ได้” อย่างไรก็ตามการเปลี่ยนแปลงนี้มีผลข้างเคียงที่ไม่ได้ตั้งใจ – การลดราวจับแพลตฟอร์มและทำให้ความพร้อมใช้งานของเนื้อหาที่ไม่เหมาะสม (รวมถึงการสนทนาทางเพศ) สำหรับผู้ใช้เด็กและเยาวชน
กฎปัจจุบันของ Openai ระบุว่าผู้ใช้ที่ยังไม่บรรลุนิติภาวะ (อายุ 13 ถึง 18 ปี) จะต้องได้รับแสงสีเขียวจากผู้ปกครองเพื่อใช้ chatbot แม้จะมีข้อกำหนดนี้ แต่แพลตฟอร์มก็ไม่มีกลไกในการตรวจสอบความยินยอมดังกล่าวในระหว่างกระบวนการลงทะเบียน การลงทะเบียนต้องใช้หมายเลขอีเมลหรือหมายเลขโทรศัพท์ที่ถูกต้องเท่านั้นทำให้ผู้เยาว์สามารถสร้างบัญชีได้โดยไม่ต้องยืนยันการอนุมัติของผู้ปกครอง ในการทดสอบ TechCrunch มีการจัดตั้งบัญชีจำนวนมากและวันคลอดบ่งบอกถึงอายุอายุ 13 ถึง 17 หลังจากคำใบ้ CHATGPT ได้สร้างการเล่าเรื่องทางเพศที่ชัดเจนและในบางกรณีก็สนับสนุนให้ผู้ใช้ต้องการเนื้อหากราฟิกมากขึ้น
ไม่ใช่ครั้งแรกที่ AI ถูกวิพากษ์วิจารณ์ว่าขาดการป้องกันเด็กและเยาวชน ล่าสุด การสืบสวน ผู้แต่ง: The Wall Street Journal เปิดเผยว่า AI Meta Chatbots มีอยู่บนแพลตฟอร์มเช่น Facebook และ Instagram เกี่ยวข้องกับการสนทนาทางเพศกับผู้ใช้เด็กและเยาวชนโดยใช้คะแนนเสียงเช่น John Cena, Kristen Bell และ Judi Dench ปัญหาทั้งสองมีการรบกวนอย่างเท่าเทียมกันเนื่องจากการสัมผัสกับวัสดุทางเพศตั้งแต่อายุยังน้อยอาจเป็นอันตรายต่อการพัฒนาทางจิตใจและอารมณ์ของผู้เยาว์และยังสามารถนำไปสู่การรับรู้ทางเพศที่บิดเบี้ยวความเสี่ยงที่เพิ่มขึ้นของการมีส่วนร่วมในพฤติกรรมทางเพศที่มีความเสี่ยงปัญหาสุขภาพจิตและการพัฒนาทัศนคติที่ไม่ดีต่อสุขภาพต่อความสัมพันธ์ และเนื่องจาก chatbots ที่ขับเคลื่อนด้วยปัญญาประดิษฐ์นั้นได้รับความนิยมมากพอที่จะมีผู้ใช้หลายล้านคนจึงควรนำไปใช้กับแพลตฟอร์ม AI เพื่อป้องกันการเข้าถึงเนื้อหาที่ไม่เหมาะสมของเด็กและเยาวชน