PaLM

PaLM (Pathways Language Model) é um modelo de linguagem grande desenvolvido pela Google.[1][2] Ele tem 540 bilhões de parâmetros e usa o sistema Pathways para treinar um único modelo em vários Pods TPU v4.[1] PaLM é um modelo Transformer somente de decodificador que pode gerar texto em vários domínios e tarefas.[3][4]

PaLM
Logótipo
PaLM
Desenvolvedor Google AI
Idioma(s) Inglês
Gênero(s) Modelo de linguagem grande

PaLM não tem nenhuma ligação com o Palm, um aparelho celular compacto e simples que serve como um telefone auxiliar ou um dispositivo para uso familiar.

Referências
  1. Narang, Sharan; Chowdhery, Aakanksha. «Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance». ai.googleblog.com (em inglês). Consultado em 17 de março de 2023
  2. Chowdhery, Aakanksha; Narang, Sharan; Devlin, Jacob; et al. (2022). «PaLM: Scaling Language Modeling with Pathways». arXiv:2204.02311Acessível livremente [cs.CL]
  3. Driess, Danny; Xia, Fei; Sajjadi, Mehdi S. M.; et al. (2023). «PaLM-E: An Embodied Multimodal Language Model». arXiv:2303.03378Acessível livremente [cs.LG]
  4. Driess, Danny; Florence, Pete. «PaLM-E: An embodied multimodal language model». ai.googleblog.com (em inglês). Consultado em 17 de março de 2023
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.