ความผิดพลาดที่ 1: คิดว่าหน้าต่างบริบทไม่มีที่สิ้นสุด
นักพัฒนาหลายคนมักคิดว่าเนื่องจากโมเดลเป็นแบบไม่มีเซนเซอร์ มันจึงสามารถจำทุกอย่างได้ตลอดไป ซึ่งไม่เป็นความจริง โมเดลไม่มีเซนเซอร์ของเรารองรับหน้าต่างบริบทขนาด 100,000 โทเค็น ซึ่งใหญ่แต่มีจำกัด หากคุณป้อนเอกสารขนาดใหญ่ คุณต้องจัดการการตัดข้อความอย่างระมัดระวัง การเพิกเฉยต่อขีดจำกัดนี้ทำให้เกิดการสูญเสียข้อมูลแบบเงียบหรือการลองซ้ำที่มีค่าใช้จ่ายสูง Always คำนวณโทเค็นของ prompt และการสร้างข้อความรวมกัน หากผลรวมเกิน 100,000 คำขอจะล้มเหลว อย่าคิดว่า API จะตัดข้อมูลเก่าออกอย่างชาญฉลาดโดยไม่มีการสั่งงานจากคุณ
ข้อผิดพลาดที่ 2: การละเลยขีดจำกัดเอาต์พุต 16k
ข้อผิดพลาดทั่วไปคือการส่งคำขอโดยไม่ระบุ max_tokens และคาดหวังผลลัพธ์เป็นเรียงความเต็ม ความยาวเอาต์พุตเริ่มต้นคือ 2,048 โทเค็น หากคุณต้องการคำตอบที่ยาวขึ้น คุณต้องตั้งค่าพารามิเตอร์นี้เอง API ของเรารองรับสูงสุด 16,000 โทเค็นต่อการร้องขอ หากไม่ตั้งค่านี้จะทำให้เรื่องราวหรือบล็อกโค้ดถูกตัดทอน การตัดทอนนี้เกิดขึ้นอย่างกะทันหัน ทำให้ตรรกะของแอปพลิเคชันของคุณเสียหาย ควรกำหนดขอบเขตบนของการสร้างเสมอเพื่อควบคุมต้นทุนและโครงสร้าง
ข้อผิดพลาดที่ 3: การไม่จัดการเอนด์พอยต์สตรีมอย่างถูกต้อง
การสตรีมผ่าน SSE ให้ประสบการณ์ผู้ใช้ที่ดีขึ้น แต่ก็นำความซับซ้อนเข้ามา คุณต้องแยกชิ้นข้อมูลสุดท้ายเพื่อรับข้อมูลการใช้งานโทเค็นที่ถูกต้องสำหรับการเรียกเก็บเงิน หากคุณตัดการเชื่อมต่อเร็วเกินไป คุณอาจสูญเสียข้อมูลการใช้งาน API ของเราจะรวมจำนวนโทเค็นไว้ในชิ้นข้อมูลสุดท้าย ตรวจสอบให้แน่ใจว่าไคลเอนต์ของคุณจัดการการตอบกลับบางส่วนได้อย่างราบรื่น อย่าสันนิษฐานว่าทุกชิ้นข้อมูลจะมีข้อมูลการใช้งาน วิธีนี้ช่วยป้องกันค่าใช้จ่ายที่ไม่คาดคิดจากคำขอที่ไม่สมบูรณ์
ข้อผิดพลาดที่ 4: การลืมตั้งค่า response_format สำหรับ JSON
เมื่อสร้างแอปพลิเคชันที่แยกวิเคราะห์เอาต์พุต AI การพึ่งพาภาษาธรรมชาติเพื่อจัดรูปแบบ JSON มีความเสี่ยง คุณควรตั้งค่า response_format เป็น json_object อย่างชัดเจน สิ่งนี้บังคับให้โมเดลส่งออกไวยากรณ์ JSON ที่ถูกต้อง หากไม่มีสิ่งนี้ คุณอาจได้รับเครื่องหมายจุลภาคส่วนเกินหรือเครื่องหมายคำพูดที่หายไป ข้อผิดพลาดในการแยกวิเคราะห์จะขัดขวางการผสานรวมของคุณ ควรตรวจสอบโครงสร้างเอาต์พุตก่อนการประมวลผล การเปลี่ยนแปลงเล็กน้อยนี้เพิ่มความน่าเชื่อถืออย่างมีนัยสำคัญสำหรับเวิร์กโฟลว์อัตโนมัติ
ข้อผิดพลาดที่ 5: การเข้าใจการเรียกเก็บเงิน Token ผิดพลาด
ผู้ใช้หลายคนประหลาดใจกับการเรียกเก็บเงินตาม token โมเดล LLM แบบ uncensored ของเราคิดเงิน $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ความผิดพลาดฟรี แต่การสร้างสำเร็จต้องใช้เครดิตจริง คุณต้องตรวจสอบการใช้งานของคุณเพื่อหลีกเลี่ยงการหมดเครดิตแบบเติมเงิน ไม่มีสมาชิกรายเดือนที่ต้องจัดการ เครดิตของคุณไม่หมดอายุ อย่างไรก็ตาม ผู้ใช้ปริมาณสูงควรคำนวณจำนวน token ที่ประมาณการก่อนเริ่มใช้งาน
ความผิดพลาดที่ 6: คาดหวังว่าไม่มีการปฏิเสธเลยสำหรับทุกกรณี
คำว่า uncensored ไม่ได้หมายถึงอิสระอย่างสมบูรณ์จากกฎเกณฑ์ทั้งหมด เราคงขีดจำกัดหนึ่งข้อไว้: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก ส่วนเนื้อหาอื่นๆ รวมถึงประเด็นที่ถกเถียง การเมือง หรือผู้ใหญ่ อนุญาตทั้งหมด หากคุณคาดหวังว่าจะไม่มีการปฏิเสธเลยสำหรับเนื้อหาทุกประเภท คุณอาจจะผิดหวัง โมเดลของเราปฏิเสธเฉพาะหมวดหมู่นั้นๆ เท่านั้น ซึ่งเป็นมาตรฐานสำหรับ LLM ส่วนใหญ่ อย่าสันนิษฐานว่าโมเดล uncensored ของคุณจะสามารถสร้างเนื้อหาใดๆ ได้โดยไม่มีการควบคุมเลย
ความผิดพลาดที่ 7: การจำกัดอัตราโดยไม่มีการหน่วงเวลาแบบ backoff
API ของเราจำกัดที่ 300 คำขอต่อนาทีต่อคีย์ หากคุณส่งคำขอเกินขีดจำกัด คุณจะได้รับข้อผิดพลาด 429 การใช้งาน exponential backoff มีความสำคัญต่อความเสถียร อย่าลองใหม่ทันทีเมื่อเกิดความล้มเหลว ให้กระจายคำขอของคุณไปตามเวลา เราจำกัดคำขอพร้อมกันไว้ที่แปดคีย์ต่อคีย์ การเกินขีดจำกัดนี้จะทำให้เกิดความล่าช้าในการคิว การจำกัดอัตราการใช้งานที่เหมาะสมช่วยให้มั่นใจได้ถึงการประสิทธิภาพที่สอดคล้องกันในช่วงชั่วโมงการใช้งานสูงสุด ตรวจสอบอัตราข้อผิดพลาดของคุณเพื่อปรับกลยุทธ์ backoff
ความผิดพลาดที่ 8: ใช้ Model ID ผิด
เมื่อผสานรวม นักพัฒนามักจะคัดลอก ID โมเดลจากผู้ให้บริการรายอื่น คุณต้องใช้ ID โมเดลเฉพาะสำหรับโมเดล uncensored ของเรา ID ที่ถูกต้องคือ "uncensored" การใช้ ID อื่น ๆ จะทำให้เกิดข้อผิดพลาดหรือพฤติกรรมที่ไม่คาดหมาย API ของเราเข้ากันได้กับ OpenAI แต่โมเดลนั้นเป็นเอกลักษณ์ ไม่ใช่ GPT หรือ Claude ตรวจสอบ ID โมเดลของคุณในแดชบอร์ดเสมอ รายละเอียดเล็กๆ น้อยนี้ช่วยป้องกันปัญหาการผสานรวมจำนวนมาก
ความผิดพลาดที่ 9: ละเลยความละเอียดอ่อนของนโยบายเนื้อหา
แม้ว่าเราอนุญาตเนื้อหาผู้ใหญ่ส่วนใหญ่ แต่คำจำกัดความของ "ไร้เซนเซอร์" อาจแตกต่างกัน เราไม่กรองตามความถูกต้องทางการเมือง อย่างไรก็ตาม เรากรองตามประเภทเนื้อหาเฉพาะ ตรวจสอบให้แน่ใจว่าแอปพลิเคชันของคุณจัดการความแตกต่างเหล่านี้ได้อย่างถูกต้อง ทดสอบ prompt ของคุณอย่างละเอียดก่อนขยายขนาด นโยบายมีความโปร่งใสและสอดคล้องกัน คุณจะไม่ต้องเผชิญกับการแบนแบบไม่คาดคิดสำหรับเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย ความมั่นคงนี้เป็นกุญแจสำคัญสำหรับแอปพลิเคชันที่ทำงานเป็นเวลานาน
