OpenAI 用无监督学习提升语言理解，并开源可扩展的通用系统

OpenAI 用 transformers 加无监督预训练的组合，在一系列多样化语言任务上取得当时最优结果，并发布了这套可扩展、与任务无关的系统。该方法表明监督学习与无监督预训练结合效果显著，OpenAI 希望借此推动在更大、更多样数据集上的后续研究。