AI Research 技术调研

❯

❯

文件夹: llm/2022

此文件夹下有45条笔记。

2022年12月01日
Constitutional AI: Harmlessness from AI Feedback
2022年12月01日
Self-Instruct: Aligning Language Models with Self-Generated Instructions
2022年12月01日
Robust Speech Recognition via Large-Scale Weak Supervision (Whisper)
2022年11月01日
BLOOM: A 176B-Parameter Open-Access Multilingual Language Model
2022年11月01日
Galactica: A Large Language Model for Science
2022年11月01日
Introducing ChatGPT (官方发布博客)
2022年10月01日
Challenging BIG-Bench Tasks and Whether Chain-of-Thought Can Solve Them (BBH)
2022年10月01日
ERNIE-ViLG 2.0: Improving Text-to-Image Diffusion Model with Knowledge-Enhanced Mixture-of-Denoising-Experts
2022年10月01日
GLM-130B: An Open Bilingual Pre-trained Model
2022年10月01日
GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers
2022年10月01日
Large Language Models Can Self-Improve
2022年10月01日
ReAct: Synergizing Reasoning and Acting in Language Models
2022年10月01日
Scaling Instruction-Finetuned Language Models (Flan / Flan-PaLM)
2022年9月01日
In-context Learning and Induction Heads
2022年9月01日
Improving alignment of dialogue agents via targeted human judgements (Sparrow)
2022年8月01日
Red Teaming Language Models to Reduce Harms: Methods, Scaling Behaviors, and Lessons Learned
2022年8月01日
Atlas: Few-shot Learning with Retrieval Augmented Language Models
2022年8月01日
LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale
2022年7月01日
Language Models (Mostly) Know What They Know
2022年6月01日
Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models (BIG-bench)
2022年6月01日
Emergent Abilities of Large Language Models
2022年6月01日
Language Models are General-Purpose Interfaces (MetaLM)
2022年6月01日
Solving Quantitative Reasoning Problems with Language Models (Minerva)
2022年5月01日
FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
2022年5月01日
A Generalist Agent (Gato)
2022年5月01日
Large Language Models are Zero-Shot Reasoners
2022年5月01日
OPT: Open Pre-trained Transformer Language Models
2022年5月01日
Reducing Activation Recomputation in Large Transformer Models
2022年5月01日
UL2: Unifying Language Learning Paradigms
2022年4月01日
Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback
2022年4月01日
Flamingo: a Visual Language Model for Few-Shot Learning
2022年4月01日
GPT-NeoX-20B: An Open-Source Autoregressive Language Model
2022年4月01日
PaLM: Scaling Language Modeling with Pathways
2022年4月01日
Super-NaturalInstructions: Generalization via Declarative Instructions on 1600+ NLP Tasks
2022年3月01日
Training Compute-Optimal Large Language Models (Chinchilla)
2022年3月01日
CodeGen: An Open Large Language Model for Code with Multi-Turn Program Synthesis
2022年3月01日
DeepNet: Scaling Transformers to 1,000 Layers (DeepNorm)
2022年3月01日
Training language models to follow instructions with human feedback (InstructGPT)
2022年3月01日
Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time
2022年3月01日
Self-Consistency Improves Chain of Thought Reasoning in Language Models
2022年2月01日
Predictability and Surprise in Large Generative Models
2022年2月01日
ST-MoE: Designing Stable and Transferable Sparse Expert Models
2022年1月01日
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
2022年1月01日
LaMDA: Language Models for Dialog Applications
2022年1月01日
Aligning language models to follow instructions (InstructGPT 官方博客)

GitHub