مواد پر جائیں

Microsoft Research نے deterministic AI inference کے لیے LLM-42 پیش کردیا

LLM-42 ایک decode-verify-rollback طریقہ استعمال کرتا ہے جس کا مقصد dynamic batching بند کیے بغیر منتخب LLM inference requests کو reproducible بنانا ہے۔

تحریر مارگلہ نیوز ڈیسک

شائع شدہ

1 منٹ مطالعہ

Microsoft Research نے LLM-42 نامی scheduling-based تکنیک پیش کی ہے جس کا مقصد بڑے زبان ماڈلز کے inference کو ضرورت کے مطابق deterministic بنانا ہے۔ نظام پہلے تیز راستے سے tokens تیار کرتا ہے، پھر fixed-shape verification کے ذریعے ان کی جانچ کرتا ہے اور mismatch ہونے پر rollback کرتا ہے۔ محققین کے مطابق یہ طریقہ evaluation، auditing اور continuous-integration جیسے کاموں میں reproducibility کے لیے مفید ہو سکتا ہے۔

خبر کا لنک: https://margallanews.com/story/microsoft-llm42-deterministic-inference-verified-speculation-2026-09-29?lang=ur