Seguem alguns modelos que você pode executar localmente em um computador sem a utilização de serviços de nuvem:

* **LLaMA**: LLaMA é um modelo de linguagem de bilhões de parâmetros que foi criado pela Meta para ajudar pesquisadores e cientistas a avançarem com estudos de inteligência artificial. Ele é um modelo Transformer somente decodificador que foi treinado em um grande conjunto de dados multilíngue. Ele supera o GPT-3 na maioria dos benchmarks, apesar de ser 13 vezes menor. Ele foi projetado para ser usado para fins de pesquisa apenas, e os checkpoints do modelo deveriam ser solicitados à Meta. No entanto, os pesos do modelo foram vazados, e agora qualquer um pode acessá-los. No entanto, o modelo ainda está sujeito a uma licença não comercial.

* **Alpaca**: Alpaca é um modelo de linguagem de bilhões de parâmetros que é uma versão refinada do LLaMA. Mais precisamente, ele é um modelo que segue instruções, que pode ser pensado como um “ChatGPT”. Ele foi criado por um grupo de cientistas da computação da Universidade de Stanford para fornecer um modelo de linguagem aberto e acessível que possa realizar diversas tarefas de linguagem natural. Ele foi refinado a partir do LLaMA 7B em milhares de demonstrações de instruções geradas pelo text-davinci da OpenAI. Ele mostra muitos comportamentos similares ao text-davinci, mas é surpreendentemente pequeno e fácil/barato de reproduzir (menos de $600). Ele está disponível no GitHub e também em uma demonstração interativa. No entanto, o modelo ainda tem muitas limitações e riscos, e não foi refinado para ser seguro e inofensivo. Ele é destinado apenas para pesquisa acadêmica e qualquer uso comercial é proibido.

* **GPT-J**: Esse é um modelo de bilhões de parâmetros que é uma replicação do GPT-3. Ele é treinado em um grande e diverso corpus de texto e pode gerar texto coerente e fluente. Ele está disponível no Hugging Face. Ele foi criado por um grupo chamado Eleuther AI, que tem o objetivo de democratizar os grandes modelos de linguagem.

* **RWKV**: Esse é um modelo de bilhões de parâmetros que é uma variante do GPT-2. Ele usa atenção relativa e memória chave-valor para melhorar a modelagem de dependências de longo prazo. Ele está disponível no GitHub. Ele foi desenvolvido por BlinkDL, que afirma que ele combina o melhor dos RNNs e dos transformadores - ótimo desempenho, inferência rápida, economia de VRAM, treinamento rápido, comprimento de contexto "infinito" e incorporação de sentenças gratuita (usando o estado oculto final).

* **Pythia**: Esse é um modelo de bilhões de parâmetros que é uma variante do T5. Ele é treinado em um grande corpus de código Python e comentários em linguagem natural. Ele pode gerar código, responder perguntas e resumir trechos de código. Ele está disponível no Hugging Face. Ele faz parte da Pythia Scaling Suite, uma coleção de modelos desenvolvidos para facilitar a pesquisa de interpretabilidade. Não confunda esse modelo com o Pythia, um framework de aprendizado profundo que suporta multitarefas no domínio da visão e da linguagem, ou com o Pythia, um modelo de restauração de texto antigo que recupera caracteres ausentes de uma entrada de texto danificada usando redes neurais profundas.

* **GPT-NeoX**: Esse é um modelo de bilhões de parâmetros que é uma replicação do GPT-3. Ele é treinado em um grande e diverso corpus de texto e pode gerar texto coerente e fluente. Ele suporta quantização de 4 bits e 8 bits e pode rodar no Google Colab. Ele está disponível no GitHub.

* **GPT-2**: Esse é um modelo de bilhões de parâmetros que é um predecessor do GPT-3. Ele é treinado em um grande corpus de texto da web e pode gerar texto coerente e fluente. Ele está disponível no Hugging Face.

* **Google Palm**: Esse é um modelo de bilhões de parâmetros que é o primeiro resultado do Pathways, a nova arquitetura de IA do Google, que visa lidar com muitas tarefas ao mesmo tempo, aprender novas tarefas rapidamente e refletir um melhor entendimento do mundo. Palm é um projeto enorme com objetivos ambiciosos. Ele é um modelo Transformer somente decodificador que foi treinado com o sistema Pathways, que permitiu treinar um único modelo em vários Pods TPU v4. Ele foi avaliado em centenas de tarefas de compreensão e geração de linguagem, e descobriu-se que ele alcança um desempenho de ponta em poucos tiros na maioria das tarefas, por margens significativas em muitos casos.

* **Bloom**: Esse é um modelo de bilhões de parâmetros que é o primeiro modelo de linguagem multilíngue de acesso aberto. Ele foi criado por mais de 1000 pesquisadores de IA para fornecer um modelo de linguagem grande e gratuito para todos que quiserem experimentar. Ele é capaz de gerar texto em 46 idiomas naturais e 13 idiomas de programação. Para quase todos eles, como espanhol, francês e árabe, Bloom será o primeiro modelo de linguagem com mais de 100B parâmetros já criado. Ele foi treinado no corpus ROOTS, um conjunto de dados composto por centenas de fontes em 46 idiomas naturais e 13 idiomas de programação (59 no total). Ele alcança um desempenho competitivo em uma grande variedade de benchmarks, com resultados mais fortes após passar por uma aprendizagem multitarefa.

Você também pode utilizar estes modelos no seguinte projeto de interface gráfica (suporta modos de "Playground", Chat e Chat estilo Character.ai):

https://github.com/oobabooga/text-generation-webui

Tenha em mente que geralmente modelos de linguagem possuem altos requisitos de hardware, e usualmente requerem uso de GPU com grande memória VRAM. Entretanto, há alguns projetos como o Llama.cpp que tentam viabilizar o uso de modelos de linguagem em CPUs, mas os resultados podem variar de acordo com o hardware utilizado. Consulte benchmarks online para obter a informação sobre a compatibilidade de modelos em seu hardware.
ต่อไปนี้คือโมเดลบางส่วนที่คุณสามารถเรียกใช้ในเครื่องคอมพิวเตอร์โดยไม่ต้องใช้บริการคลาวด์: * **LLaMA**: LLaMA คือโมเดลภาษาพันล้านพารามิเตอร์ที่ Meta สร้างขึ้นเพื่อช่วยให้นักวิจัยและนักวิทยาศาสตร์พัฒนาการศึกษาปัญญาประดิษฐ์ให้ก้าวหน้า เป็นโมเดล Transformer ที่ใช้ตัวถอดรหัสเท่านั้น ซึ่งได้รับการฝึกฝนกับชุดข้อมูลขนาดใหญ่หลายภาษา มันมีประสิทธิภาพเหนือกว่า GPT-3 ในการวัดประสิทธิภาพส่วนใหญ่ แม้ว่าจะมีขนาดเล็กกว่าถึง 13 เท่าก็ตาม มันถูกออกแบบมาเพื่อใช้เพื่อวัตถุประสงค์ในการวิจัยเท่านั้น และควรขอจุดตรวจสอบแบบจำลองจาก Meta อย่างไรก็ตาม ตุ้มน้ำหนักโมเดลรั่วไหล และตอนนี้ใครๆ ก็สามารถเข้าถึงได้ อย่างไรก็ตาม โมเดลดังกล่าวยังอยู่ภายใต้ใบอนุญาตที่ไม่ใช่เชิงพาณิชย์ * **Alpaca**: Alpaca คือโมเดลภาษาที่มีพารามิเตอร์นับพันล้านพารามิเตอร์ ซึ่งเป็น LLaMA เวอร์ชันที่ได้รับการปรับปรุง ที่แม่นยำยิ่งขึ้นคือโมเดลที่ปฏิบัติตามคำแนะนำซึ่งถือได้ว่าเป็น "ChatGPT" มันถูกสร้างขึ้นโดยกลุ่มนักวิทยาศาสตร์คอมพิวเตอร์ที่มหาวิทยาลัยสแตนฟอร์ดเพื่อจัดทำแบบจำลองภาษาที่เปิดกว้างและเข้าถึงได้ซึ่งสามารถทำงานด้านภาษาธรรมชาติได้หลากหลาย ได้รับการปรับปรุงจาก LLaMA 7B ในการสาธิตคำสั่งหลายพันรายการที่สร้างโดย text-davinci ของ OpenAI มันแสดงพฤติกรรมที่คล้ายกันมากมายกับ text-davinci แต่มีขนาดเล็กและง่าย/ถูกในการทำซ้ำอย่างน่าประหลาดใจ (ต่ำกว่า $600) มีให้บริการบน GitHub และในการสาธิตเชิงโต้ตอบด้วย อย่างไรก็ตาม โมเดลยังคงมีข้อจำกัดและความเสี่ยงมากมาย และไม่ได้รับการปรับปรุงให้ปลอดภัยและไม่เป็นอันตราย มีจุดประสงค์เพื่อการวิจัยเชิงวิชาการเท่านั้น และห้ามนำไปใช้ในเชิงพาณิชย์ * **GPT-J**: นี่คือโมเดลพันล้านพารามิเตอร์ซึ่งเป็นการจำลอง GPT-3 ได้รับการฝึกฝนเกี่ยวกับคลังข้อความขนาดใหญ่และหลากหลาย และสามารถสร้างข้อความที่สอดคล้องกันและคล่องแคล่ว มีอยู่ใน Hugging Face มันถูกสร้างขึ้นโดยกลุ่มที่เรียกว่า Eleuther AI ซึ่งมีเป้าหมายเพื่อทำให้โมเดลภาษาขนาดใหญ่เป็นประชาธิปไตย * **RWKV**: นี่คือโมเดลพันล้านพารามิเตอร์ซึ่งเป็นตัวแปรหนึ่งของ GPT-2 โดยจะใช้ความสนใจสัมพัทธ์และหน่วยความจำคีย์-ค่าเพื่อปรับปรุงการสร้างแบบจำลองการพึ่งพาในระยะยาว มีอยู่ใน GitHub ได้รับการพัฒนาโดย BlinkDL ซึ่งอ้างว่าได้รวม RNN และ Transformers ที่ดีที่สุดเข้าด้วยกัน - ประสิทธิภาพที่ยอดเยี่ยม การอนุมานที่รวดเร็ว ประหยัด VRAM การฝึกอบรมที่รวดเร็ว ความยาวบริบท "ไม่สิ้นสุด" และการฝังประโยคอิสระ (โดยใช้สถานะซ่อนเร้นขั้นสุดท้าย) * **Pythia**: นี่คือโมเดลที่มีพารามิเตอร์พันล้านพารามิเตอร์ซึ่งเป็นเวอร์ชันหนึ่งของ T5 ได้รับการฝึกฝนเกี่ยวกับคลังโค้ด Python ขนาดใหญ่และความคิดเห็นในภาษาธรรมชาติ สามารถสร้างโค้ด ตอบคำถาม และสรุปข้อมูลโค้ดได้ มีอยู่ใน Hugging Face โดยเป็นส่วนหนึ่งของ Pythia Scaling Suite ซึ่งเป็นคอลเลกชันของแบบจำลองที่ออกแบบมาเพื่ออำนวยความสะดวกในการวิจัยความสามารถในการตีความ อย่าสับสนระหว่างโมเดลนี้กับ Pythia ซึ่งเป็นเฟรมเวิร์กการเรียนรู้เชิงลึกที่รองรับการทำงานหลายอย่างพร้อมกันในขอบเขตการมองเห็นและภาษา หรือกับ Pythia ซึ่งเป็นโมเดลการกู้คืนข้อความแบบเก่าที่กู้คืนอักขระที่หายไปจากการป้อนข้อความที่เสียหายโดยใช้โครงข่ายประสาทเทียมแบบลึก * **GPT-NeoX**: นี่คือโมเดลที่มีพารามิเตอร์พันล้านพารามิเตอร์ซึ่งเป็นการจำลอง GPT-3 ได้รับการฝึกฝนเกี่ยวกับคลังข้อความขนาดใหญ่และหลากหลาย และสามารถสร้างข้อความที่สอดคล้องกันและคล่องแคล่ว รองรับการวัดปริมาณ 4 บิตและ 8 บิตและสามารถทำงานบน Google Colab มีอยู่ใน GitHub * **GPT-2**: นี่คือโมเดลพันล้านพารามิเตอร์ซึ่งเป็นรุ่นก่อนของ GPT-3 ได้รับการฝึกฝนเกี่ยวกับคลังข้อความขนาดใหญ่จากเว็บ และสามารถสร้างข้อความที่สอดคล้องกันและคล่องแคล่ว มีอยู่ใน Hugging Face * **Google Palm**: นี่คือโมเดลพันล้านพารามิเตอร์ซึ่งเป็นผลลัพธ์แรกของ Pathways ซึ่งเป็นสถาปัตยกรรม AI ใหม่ของ Google ซึ่งมีเป้าหมายที่จะจัดการงานหลายอย่างพร้อมกัน เรียนรู้งานใหม่ได้อย่างรวดเร็ว และสะท้อนถึงความเข้าใจโลกที่ดีขึ้น ปาล์มเป็นโครงการขนาดใหญ่ที่มีเป้าหมายอันทะเยอทะยาน เป็นโมเดล Transformer ที่ใช้ตัวถอดรหัสเท่านั้นซึ่งได้รับการฝึกฝนด้วยระบบ Pathways ซึ่งช่วยให้คุณสามารถฝึกฝนโมเดลเดียวบน TPU v4 Pod หลายตัวได้ ได้รับการประเมินจากงานด้านความเข้าใจและการสร้างภาษาหลายร้อยงาน และพบว่ามีประสิทธิภาพที่ล้ำสมัยภายในไม่กี่ช็อตในงานส่วนใหญ่ โดยได้กำไรที่สำคัญในหลายกรณี * **Bloom**: นี่คือโมเดลที่มีพารามิเตอร์นับพันล้านพารามิเตอร์ ซึ่งเป็นโมเดลภาษาหลายภาษาแบบเปิดแรกที่เข้าถึงได้ สร้างขึ้นโดยนักวิจัย AI กว่า 1,000 คนเพื่อมอบโมเดลภาษาขนาดใหญ่ฟรีสำหรับทุกคนที่ต้องการลองใช้ สามารถสร้างข้อความในภาษาธรรมชาติ 46 ภาษา และภาษาโปรแกรม 13 ภาษา สำหรับเกือบทั้งหมด เช่น สเปน ฝรั่งเศส และอารบิก Bloom จะเป็นโมเดลภาษาแรกที่มีพารามิเตอร์มากกว่า 100 พันล้านพารามิเตอร์ที่เคยสร้างมา ได้รับการฝึกฝนบน ROOTS Corpus ซึ่งเป็นชุดข้อมูลที่ประกอบด้วยแหล่งข้อมูลหลายร้อยแหล่งในภาษาธรรมชาติ 46 ภาษา และภาษาการเขียนโปรแกรม 13 ภาษา (ทั้งหมด 59 ภาษา) บรรลุประสิทธิภาพการแข่งขันในเกณฑ์มาตรฐานที่หลากหลาย พร้อมผลลัพธ์ที่แข็งแกร่งขึ้นหลังจากผ่านการเรียนรู้แบบหลายงาน คุณยังสามารถใช้เทมเพลตเหล่านี้ในโปรเจ็กต์ GUI ต่อไปนี้ (รองรับโหมดแชท "Playground", Chat และ Character.ai): https://github.com/oobabooga/text-generation-webui โปรดทราบว่าโดยทั่วไปเทมเพลตโปรแกรมภาษา มีข้อกำหนดด้านฮาร์ดแวร์ที่สูง และมักจะต้องใช้ GPU ที่มีหน่วยความจำ VRAM ขนาดใหญ่ อย่างไรก็ตาม มีบางโปรเจ็กต์ เช่น Llama.cpp ที่พยายามเปิดใช้งานการใช้โมเดลภาษาบน CPU แต่ผลลัพธ์อาจแตกต่างกันไปขึ้นอยู่กับฮาร์ดแวร์ที่ใช้ ปรึกษาเกณฑ์มาตรฐานออนไลน์สำหรับข้อมูลความเข้ากันได้ของรุ่นบนฮาร์ดแวร์ของคุณ
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence