تولید کد
یک مدل تولید متن، که به عنوان مدل زبان علّی نیز شناخته می‌شود، می‌تواند روی کد از ابتدا آموزش داده شود تا به برنامه‌نویسان در کارهای کدنویسی تکراری کمک کند.


نسل داستان
یک مدل نسل داستان که برای مثال در یک مدل GPT-2 آموزش دیده است، می‌تواند ورودی مانند «روزی روزگاری» را دریافت کند و بر اساس اولین کلمات، متنی شبیه داستان بسازد (به عنوان مثال، به این مدل در داخل نگاه کنید. هاب).


اگر داده‌های آموزشی مدل مولد شما با مورد استفاده شما متفاوت است، می‌توانید یک مدل زبان علّی را از ابتدا آموزش دهید. در دوره رایگان ترانسفورماتورها نحوه انجام آن را بیاموزید!


انواع وظایف
مدل های نسل تکمیل
یک نوع محبوب از مدل های تولید متن، کلمه بعدی را با مجموعه ای از کلمات پیش بینی می کند. کلمه به کلمه متن طولانی تری تشکیل می شود که به عنوان مثال منجر می شود:


با توجه به یک جمله ناقص، آن را کامل کنید.
با در نظر گرفتن جملات اول یک داستان را ادامه دهید.
با ارائه توضیحات کد، کد را تولید کنید.
محبوب ترین مدل ها برای این کار، مدل های مبتنی بر GPT (مانند GPT-2) هستند. این مدل‌ها بر روی داده‌هایی آموزش داده می‌شوند سفارش تولید محتوا متنی که برچسب ندارند، بنابراین برای آموزش مدل خود فقط به متن ساده نیاز دارید. می‌توانید مدل‌های GPT را برای تولید انواع مختلفی از اسناد، از کد گرفته تا داستان، آموزش دهید.


مدل های تولید متن به متن
این مدل ها برای یادگیری نگاشت بین یک جفت متون (مثلاً ترجمه از یک زبان به زبان دیگر) آموزش دیده اند. محبوب ترین انواع این مدل ها T5، T0 و BART هستند. مدل‌های متن به متن با قابلیت‌های چند وظیفه‌ای آموزش داده می‌شوند، آنها می‌توانند طیف گسترده‌ای از وظایف، از جمله خلاصه‌سازی، ترجمه و طبقه‌بندی متن را انجام دهند.


استنتاج
می توانید از خط لوله تولید متن کتابخانهبرای استنتاج با مدل های تولید متن استفاده کنید. یک متن ناقص را می گیرد و خروجی های متعددی را برمی گرداند که می توان متن را با آن تکمیل کرد.