Ziroh Labs ผู้เริ่มต้น AI ของอินเดียได้พัฒนาแพลตฟอร์มการคำนวณใหม่ที่อ้างว่าลดการใช้โปรเซสเซอร์กราฟิกที่มีราคาแพงและหายากเพื่อเรียกใช้โมเดล AI ขนาดใหญ่ ระบบ – เรียกว่า Compact AI – สร้างขึ้นจากสถาบันเทคโนโลยีแห่งอินเดีย (IIT) Madras และมีจุดมุ่งหมายเพื่อเปิดใช้งานระบบ AI ขั้นสูงในการใช้งานโปรเซสเซอร์ที่พบในคอมพิวเตอร์มาตรฐาน
AI Ziroh Labs Compact ได้รับการออกแบบมาโดยเฉพาะเพื่อมุ่งเน้นไปที่การใช้ AI – กระบวนการของการใช้แบบจำลอง AI ที่ผ่านการฝึกอบรมเพื่อทำงานเช่นการตอบคำถามตอบสนองต่อการตอบสนองต่อการตอบสนองหรือการสร้างเนื้อหา แม้ว่า GPU จะยังคงมีความสำคัญในการฝึกอบรมโมเดลขนาดใหญ่เนื่องจากความสามารถในการประมวลผลข้อมูลจำนวนมากในเวลาเดียวกัน AI ขนาดกะทัดรัดมีวัตถุประสงค์เพื่อเปิดตัวโมเดลเหล่านี้หลังจากการฝึกอบรมโดยใช้โปรเซสเซอร์ที่มีอยู่บ่อยขึ้น วิธีการนี้แสดงให้เห็นในงานเมื่อเร็ว ๆ นี้ซึ่ง Ziroh Labs นำเสนอโมเดล AI เช่น Lama 2 และ Alibaba Qwen2.5 ของ Meta ที่ทำงานบนแล็ปท็อปที่ขับเคลื่อนโดยโปรเซสเซอร์ Intel Xeon ที่ผิดปกติ จากข้อมูลของ บริษัท ระบบสามารถประมวลผลการสืบค้นได้อย่างมีประสิทธิภาพโดยไม่ต้องใช้อุปกรณ์พิเศษ
Kompact AI เป็นส่วนหนึ่งของความพยายามมากขึ้นโดยศูนย์กลางการวิจัย AI (Coair) ซึ่งจัดตั้งขึ้นร่วมกันโดย IIT Madras และ Ziroh Labs ศูนย์มุ่งเน้นไปที่การพัฒนาระบบ AI ที่มีราคาไม่แพงและเหมาะสำหรับใช้ในโลกแห่งความเป็นจริงในภูมิภาคที่มีทรัพยากรคอมพิวเตอร์ จำกัด นอกจากนี้ยังสอดคล้องกับวิสัยทัศน์ภายในประเทศที่กว้างขึ้นของ “AI for All” ในอินเดียซึ่งมีวัตถุประสงค์เพื่อสนับสนุนการพัฒนาของ AI ซึ่งสามารถทำงานในสภาพแวดล้อมที่หลากหลายโดยไม่มีข้อกำหนดของโครงสร้างพื้นฐานหนักในตะวันตก
การพัฒนานี้เกิดขึ้นในช่วงเวลาที่การเข้าถึงโครงสร้างพื้นฐาน AI ขั้นสูงได้กลายเป็นปัญหาสำคัญสำหรับนักพัฒนาโดยเฉพาะในประเทศเช่นอินเดียซึ่งการคำนวณขนาดใหญ่มี จำกัด ความต้องการทั่วโลกสำหรับ GPU เพิ่มต้นทุนและขัดขวางการซื้อกิจการของพวกเขาแม้กระทั่งสำหรับ บริษัท ขนาดใหญ่ ผู้อำนวยการ IIT Madras V. Kamakot ให้ความเห็นโดยกล่าวว่า: “แผนก AI แสดงให้เห็นว่ามีเพียงผู้คนจากทรัพยากร GPU ที่มีราคาแพงระดับสูงเท่านั้นที่สามารถเข้าถึงพัฒนาและใช้ปัญญาประดิษฐ์ที่ทรงพลัง” เขากล่าว “เราแสดงให้เห็นว่าคุณไม่จำเป็นต้องมีปืนพกเพื่อฆ่ายุง” ดังนั้นดูเหมือนว่าอิทธิพลโดยตรงที่สุดของ Kompact AI คือศักยภาพในการยกระดับระดับเสียงในการพัฒนาปัญญาประดิษฐ์เพื่อให้แน่ใจว่า บริษัท ที่เพิ่งเริ่มต้นขนาดเล็กสถาบันการศึกษาและนักวิจัยในประเทศกำลังพัฒนาจะหยุดดิ้นรนกับการมีส่วนร่วมที่สำคัญ
Ziroh Labs กล่าวว่าเทคโนโลยีของเขาได้รับการทดสอบโดยผู้ผลิตหลักของ American Systems รวมถึง Intel และ AMD เพื่อยืนยันประสิทธิภาพ แพลตฟอร์มได้รับการปรับให้เหมาะสมเพื่อรองรับ 17 รุ่น AI ที่ใช้กันทั่วไปในระบบที่ใช้โปรเซสเซอร์ จากการเริ่มต้นของการเริ่มต้นโมเดลที่มีพารามิเตอร์ต่ำกว่า 50 พันล้าน – โดยปกติจะใช้ในการตั้งค่าธุรกิจและการวิจัยต่าง ๆ – ทำงานได้ดีกับ Kompact AI โดยไม่มีอคติต่อความแม่นยำ William Raduchel อดีตผู้อำนวยการบริหารของ Sun Microsystems และที่ปรึกษาของ Zirh Labs แนะนำว่ามันจะมีผลกระทบอย่างมากต่อตลาดในอีกไม่กี่ปีข้างหน้า –