مدل زبانی بزرگ (LLM) چیست؟

یکی از ویژگی های کلیدی مدل‌های زبانی بزرگ یا LLM ها توانایی آنها در پاسخ به پرس و جوهای غیرقابل پیش بینی است. یک برنامه کامپیوتری سنتی دستورات را در نحو پذیرفته شده خود یا از مجموعه خاصی از ورودی ها از کاربر دریافت می کند. یک بازی ویدیویی دارای مجموعه محدودی از دکمه‌ها است، یک برنامه دارای مجموعه محدودی از چیزهایی است که کاربر می‌تواند کلیک یا تایپ کند، و یک زبان برنامه‌نویسی از عبارات دقیق if/then تشکیل شده است.

در مقابل، یک مدل زبانی بزرگ یا  LLM می تواند به زبان طبیعی انسان پاسخ دهد و از تجزیه و تحلیل داده ها برای پاسخ دادن به یک سوال بدون ساختار یا درخواست به روشی منطقی استفاده کند. در حالی که یک برنامه کامپیوتری معمولی اعلانی مانند “چهار گروه بزرگ فانک در تاریخ کدامند؟” را تشخیص نمی دهد، یک LLM یا مدل‌های زبانی بزرگ ممکن است با لیستی از چهار گروه از این قبیل، و دفاعی منطقی از اینکه چرا آنها بهترین هستند، پاسخ دهد.

با این حال، از نظر اطلاعاتی که ارائه می دهند، LLM ها فقط می توانند به اندازه داده هایی که دریافت می کنند قابل اعتماد باشند. اگر اطلاعات نادرست تغذیه شود، آنها در پاسخ به سوالات کاربر اطلاعات نادرست ارائه می دهند. LLM ها همچنین گاهی اوقات “توهم” میزنند: هنگامی که قادر به ارائه پاسخ دقیق نیستند، اطلاعات جعلی ایجاد می کنند. به عنوان مثال، در سال ۲۰۲۲، Fast Company از ChatGPT درباره فصل مالی قبلی شرکت تسلا پرسید. در حالی که ChatGPT یک مقاله خبری منسجم در پاسخ ارائه کرد، بسیاری از اطلاعات درون آن اختراع شده بود.

از نظر امنیت، برنامه های کاربردی روی کاربر مبتنی بر LLM یا مدل‌های زبانی بزرگ  به اندازه هر برنامه دیگری مستعد باگ هستند. LLM ها همچنین می توانند از طریق ورودی های مخرب دستکاری شوند تا انواع خاصی از پاسخ ها را نسبت به سایرین ارائه دهند – از جمله پاسخ هایی که خطرناک یا غیراخلاقی هستند. در نهایت، یکی از مشکلات امنیتی LLM ها این است که کاربران ممکن است داده های امن و محرمانه را در آنها آپلود کنند تا بهره وری خود را افزایش دهند. اما LLM یا مدل‌های زبانی بزرگ از ورودی هایی که دریافت می کنند برای آموزش بیشتر مدل های خود استفاده می کنند و به گونه ای طراحی نشده اند که مخازن ایمن باشند. آنها ممکن است داده های محرمانه را در پاسخ به سؤالات سایر کاربران افشا کنند.