เมื่อวันจันทร์ที่ผ่านมาแพลตฟอร์มเพลง SoundsLice อ้างว่าได้พัฒนาฟังก์ชั่นใหม่หลังจากค้นพบว่า Chatgpt บอกผู้ใช้อย่างไม่ถูกต้องว่าบริการสามารถนำเข้า Asciii-Format of Guitar Notation ซึ่ง บริษัท ไม่เคยสนับสนุน รายงานเหตุการณ์ที่เกิดขึ้นหมายถึงกรณีแรกของการทำงานของการสร้างธุรกิจในการตอบสนองโดยตรงต่อการเชื่อมโยงของโมเดล AI
โดยปกติแล้ว SoundLice จะเป็นดิจิทัลโน้ตจากภาพถ่ายหรือ PDFS และการซิงโครไนซ์ด้วยการบันทึกเสียงหรือวิดีโอทำให้เพลงสามารถดูการเลื่อนเพลงเมื่อได้ยิน แพลตฟอร์มนี้ยังมีเครื่องมือสำหรับการชะลอตัวและออกกำลังกายชิ้นส่วนที่ยาก
Adrian Holovaty ผู้ร่วมก่อตั้ง Soundlice เขียนไว้ในโพสต์ในบล็อกว่ากระบวนการพัฒนาฟังก์ชั่นล่าสุดเริ่มเป็นความลับที่สมบูรณ์ ไม่กี่เดือนที่ผ่านมา Holovaty เริ่มสังเกตเห็นกิจกรรมพิเศษในข้อผิดพลาดของ บริษัท แทนที่จะเป็นสมุดบันทึกทั่วไปผู้ใช้ส่งภาพหน้าจอของการสนทนา chatgpt ที่มี ASCII tabulars – นำเสนอข้อความของเพลงกีตาร์ซึ่งดูเหมือนสตริงที่มีตัวเลขที่แสดงถึงความกังวล
“ระบบสแกนของเราไม่ได้มีวัตถุประสงค์เพื่อสนับสนุนรูปแบบสัญลักษณ์นี้” Holovata เขียนไว้ในโพสต์บล็อก “แล้วทำไมเราถึงถูกทิ้งระเบิดด้วยภาพหน้าจอมากมายของหน้าจอ chatgpt ascii?
เมื่อ Holovaty ทดสอบ chatgpt เขาค้นพบแหล่งที่มาของความสับสน: โมเดล AI สั่งให้ผู้ใช้สร้างบัญชี soundslice และใช้แพลตฟอร์มสำหรับการนำเข้าการ์ด ASCII สำหรับการเล่นเสียง – ฟังก์ชั่นที่ไม่มีอยู่ “เราไม่เคยสนับสนุนการ์ด ASCII; chatgpt โกหกผู้คนโดยตรง” Holovaty เขียน “และทำให้เราดูไม่ดีตั้งค่าความคาดหวังที่ผิดพลาดเกี่ยวกับบริการของเรา”
ภาพหน้าจอของเอกสารผู้นำเข้า ASCII ใหม่ภาพหลอนโดย Chatgpt และเป็นจริงในภายหลัง
เงินกู้:
เมื่อโมเดล AI เช่น CHATGPT สร้างข้อมูลเท็จด้วยความมั่นใจที่มองเห็นได้นักวิจัย AI เรียกมันว่า “ภาพหลอน” หรือ “confabulation” ปัญหาของแบบจำลองของการ confabulation ของข้อมูลเท็จถูกคุกคามโดยโมเดล AI จาก CHATGPT ฉบับสาธารณะในเดือนพฤศจิกายน 2565 เมื่อผู้คนเริ่มใช้ Chatbot ในทางที่ผิดเป็นเครื่องมือค้นหา