فراخوانی معمولی LLM همیشه موفقیت آمیز نیست ؛ مدل ممکنه فرمت را رعایت نکند یا یه چیز ضروری را از قلم بیندازد، یا پاسخی بدهد که بررسیاش سخت باشد.
کتابخانه Mellea پیشنهاد میدهد چنین سیستمهایی را بهصورت برنامههای generative تایپشده بنویسید.
کافی است یک تابع پایتون توصیف کنید:
from pydantic import BaseModel
from mellea import generative, start_session
class UserProfile(BaseModel):
name: str
age: int
@generative
def extract_user(text: str) -> UserProfile:
"""نام و سن کاربر را استخراج کن."""
m = start_session()
user = extract_user(
m,
text="Alice is 31 years old."
)
کتابخانه Mellea عبارت docstring را به دستورالعمل تبدیل میکند، annotationهای نوع را به ساختار پاسخ، و سپس نتیجه را اعتبارسنجی میکند و در صورت نیاز، تولید پاسخ را بهطور خودکار تکرار میکند.
لینک پروژه
https://github.com/generative-computing/mellea
🆔 @python4all_pro
🧩لینک کانال در بله 👇👇
https://ble.ir/Python4all_pro