به گزارش 9to5Mac، اپ Ollama که برای اجرای مدل‌های هوش مصنوعی بهصورت محلی استفاده میشود، حالا در macOS از تولید گفتار (text-to-speech) پشتیبانی میکند و نسخه‌های ویندوز و لینوکس هم به‌زودی به آن می‌رسند. اولین مدل صوتی پشتیبانی‌شده Phonon نام دارد و کاربران مک‌های اپل سیلیکونی می‌توانند آن را با Ollama نسخهی 0.40.11 یا جدیدتر دانلود و اجرا کنند.
Ollama چیست و چرا محبوب است؟
Ollama پلتفرمی است که به کاربران اجازه می‌دهد مدل‌های هوش مصنوعی متن‌باز را روی کامپیوتر شخصی خود دانلود و اجرا کنند. اگر سخت‌افزار کافی نداشته باشید، می‌توانید از مدل‌های قدرتمندتر ابری آن هم استفاده کنید. خود Ollama متن‌باز است و با نزدیک به ۱۸۵ هزار ستاره و حدود ۱۸٫۶ هزار فورک در GitHub، یکی از محبوب‌ترین پروژه‌های هوش مصنوعی در این پلتفرم به شمار می‌رود.
مزیت اصلی اجرای محلی، حریم خصوصی است. کاربر می‌تواند بدون اتصال به اینترنت و بدون ارسال دادهها به سرورهای بیرونی از هوش مصنوعی استفاده کند. البته سرعت کار و اندازه‌ی مدل‌هایی که قابل اجرا هستند، به‌شدت به قدرت سخت‌افزار مک شما بستگی دارد.
Phonon؛ نخستین مدل گفتاری Ollama
Phonon خانواده‌ای از مدل‌های کوچک و پیشرفته‌ی تبدیل متن به گفتار است که شرکت Gradium توسعه داده است. این اولین بار است که Ollama تولید گفتار را پشتیبانی میکند. گفتار بهصورت بی‌درنگ تولید میشود؛ یعنی لازم نیست تا پایان نوشتن پاسخ صبر کنید و می‌توانید هم‌زمان با تولید پاسخ توسط مدل، صدای آن را بشنوید.
Phonon پنج زبان انگلیسی، فرانسوی، آلمانی، اسپانیایی و پرتغالی را پوشش می‌دهد. برای هر زبان یک مدل جداگانه وجود دارد و یک مدل چندزبانه هم هست که هر پنج زبان را پشتیبانی میکند. بسته به مدل، صداهایی با لهجه‌های مختلف، از جمله انگلیسی آمریکایی و بریتانیایی، در دسترس است. فعلاً زبان فارسی در فهرست نیست و کاربران فارسی‌زبان باید منتظر پشتیبانی‌های بعدی بمانند.
نقش MLX اپل در سرعت بیشتر
در macOS، Ollama از MLX استفاده میکند؛ چارچوب متن‌باز یادگیری ماشین اپل که از معماری حافظه‌ی یکپارچه‌ی اپل سیلیکون بهره می‌برد. نتیجه این است که مدل‌های پشتیبانی‌شده سریع‌تر و با بازدهی بهتری اجرا می‌شوند.
طبق ادعای Ollama، در آزمایشی روی مک‌بوک پرو با تراشه‌ی M5 Max، تولید گفتار با این روش ۳۵ درصد سریع‌تر از پیاده‌سازی خود Gradium بوده است. نرخ خطای کلمه (word error rate) هم با پیاده‌سازی مرجع در Hugging Face Transformers برابری میکند. یعنی افزایش سرعت به قیمت افت کیفیت تلفظ نبوده است. این اعداد را خود Ollama منتشر کرده و هنوز آزمون مستقلی آن‌ها را تأیید نکرده است.
چه کاربردهایی دارد؟
گفتار محلی می‌تواند در ساخت دستیارهای صوتی خصوصی، خواندن بلند پاسخ‌های چت‌بات، تولید روایت برای ویدیو و محتوای آموزشی و ابزارهای دسترس‌پذیری به کار برود. توسعه‌دهندگان هم می‌توانند از طریق API اپ Ollama و نمونه‌کدهای ارائه‌شده، این مدل‌ها را در برنامه‌های خودشان به کار بگیرند. با توجه به این‌که اپل هم در سال‌های اخیر روی پردازش روی دستگاه تأکید کرده، چنین ابزارهایی نشان می‌دهند اکوسیستم مک برای هوش مصنوعی آفلاین هر روز جذاب‌تر میشود.
برای شروع کافی است Ollama را به‌روزرسانی کنید و Phonon را مستقیماً از خود برنامه دانلود کنید. نمونه‌های صوتی و راهنمای استفاده هم در وب‌سایت Ollama در دسترس است.
منبع: 9to5Mac
