推荐2022年必读的人工智能论文
下面是RE-WORK社区的专家推荐的迄今为止2022年最重要的17篇人工智能论文。这些论文涵盖了广泛的主题,包括社交媒体中的人工智能以及人工智能如何造福人类,并且可以免费阅读。
1.Boostrapped Meta-Learning (2022) – Sebastian Flennerhag et al.
第一篇论文提出了一种算法,该算法允许元学习者自学,从而克服元优化的挑战。该算法专注于带有梯度的元学习,这保证了性能的提高。这篇论文还探讨了自举是如何开辟可能性的。
2.Multi-Objective Bayesian Optimization over High-Dimensional Search Spaces (2022) – Samuel Daulton et al.
论文提出了MORBO,这是一种可扩展的多目标BO方法,因为它的表现比高维搜索空间的表现更好。MORBO极大地提高了样本效率,在BO算法失败的地方,MORBO提供了比目前使用的BO方法更好的样本效率。
3. Tabular Data: Deep Learning is Not All You Need (2021) – Ravid Shwartz-Ziv, Amitai Armon
为了解决现实生活中的数据科学问题,选择正确的模型来使用是至关重要的。这篇论文探讨了是否应该推荐深度模型作为表格数据的一个选项。
4.Privacy for Free: How does Dataset Condensation Help Privacy? (2022) – Tian Dong et al.
这篇论文提供了一个最早的建议,即使用数据集浓缩技术在模型训练期间保持数据效率并提供成员隐私。这篇论文由索尼人工智能公司发表,并获得了ICML 2022的杰出论文奖。
5.Affective Signals in a Social Media Recommender System (2022) – Jane Dwivedi-Yu et al.
论文谈到了将情感计算(也称为情感人工智能)操作化,以改善社交媒体上的个性化信息。这篇论文讨论了根据社交媒体上的用户需求定制的情感分类法的设计。它进一步阐述了通过结合参与数据和人类标签任务的数据来策划合适的训练数据,以便能够识别用户对特定帖子可能表现出的情感反应。
6.ItemSage: Learning Product Embeddings for Shopping Recommendations at Pinterest (2022) – Paul Baltescu et al.
论文说明了将文字和视觉信息聚合起来,建立一套统一的产品嵌入,以提高电子商务网站的推荐结果。通过应用多任务学习,所提出的嵌入可以优化多种参与类型,并确保购物推荐栈在所有目标方面都是有效的。
7.Competition-Level Code Generation with AlphaCode (2022) – Yujia Li et al.
系统可以帮助程序员提高工作效率。这篇论文解决了将人工智能的创新纳入这些系统的问题。AlphaCode是一个为需要深入推理的问题创建解决方案的系统。
8.A Commonsense Knowledge Enhanced Network with Retrospective Loss for Emotion Recognition in Spoken Dialog (2022) - Yunhe Xie et al.
就现有的ERSD数据集而言,模型的推理是有局限性的。论文提出了一个具有后向损失的共知知识增强网络来进行对话建模、外部知识整合和历史状态回顾。所用的模型已被证明优于其他模型。
9.LaMDA: Language Models for Dialog Applications (2022) – Romal Thoppilan et al.
这篇论文描述了LaMDA系统,该系统在今年夏天引起了轩然大波,当时一位前谷歌工程师声称它已经显示出有生命的迹象。LaMDA是一个基于Transformer架构的对话应用的大型语言模型系列。该模型有趣的特点是他们用人类注释的数据进行微调,并有可能咨询外部资源。无论如何,这是一个非常有趣的模型系列,我们可能会在我们日常使用的许多应用程序中遇到它。
10.A Path Towards Autonomous Machine Intelligence Version 0.9.2, 2022-06-27 (2022) – Yann LeCun
论文提供了一个关于如何向通用人工智能迈进的愿景。该研究结合了一些概念,包括可配置的预测世界模型,通过内在动机驱动的行为,以及分层联合嵌入架构。
11.Coordination Among Neural Modules Through a Shared Global Workpace (2022) – Anirudh Goyal et al.
这篇论文将最近大多数深度学习的成功所依据的Transformer架构与来自认知科学的全局工作空间理论的想法相结合。这是一篇有趣的读物,可以拓宽对某些模型架构表现良好的原因的理解,以及我们未来可能朝哪个方向发展,以进一步提高挑战性任务的性能。
12.Magnetic control of tokamak plasmas through deep reinforcement learning (2022) – Jonas Degrave et al.
论文提出了 "人工智能研究如何造福人类 "的问题。使用人工智能来实现安全、可靠和可扩展的聚变能源部署,可以为解决气候变化的压力问题做出贡献。这是人工智能技术在工程方面的一个极其有趣的应用。
13.TranAd: Deep Transformer Networks for Anomaly Detection in Multivariate Time Series Data (2022) – Shreshth Tuli, Giuliano Casale and Nicholas R. Jennings
论文将变压器架构应用于多变量时间序列的无监督异常检测问题。许多在其他领域取得成功的架构在某些方面也被应用于时间序列。该论文显示了在一些已知的数据集上的改进性能。
14.Self-Supervision for Learning from the Bottom Up (2022) – Alexei Efros
这篇论文提出了令人信服的论点,说明为什么自我监督是人工智能/ML发展的下一步,以建立更强大的模型。总的来说,这些令人信服的论点进一步证明了为什么自我监督学习在我们迈向更强大的模型、在野外更好地泛化的过程中是很重要的。
15.Neural Architecture Search Survey: A Hardware Perspective (2022) – Krishna Teja Chitty-Venkata and Arun K. Somani
论文认为,随着我们走向边缘计算和联合学习,考虑到硬件限制的神经架构搜索在确保我们拥有更精简的神经网络模型以平衡延迟和泛化性能方面将更为关键。这项调查给出了各种神经架构搜索算法的鸟瞰图,这些算法考虑到了硬件限制,以设计人工神经网络,从而实现性能和准确性的最佳权衡。
16.What Should Not Be Contrastive In Contrastive Learning (2021) – Tete Xiao et al.
这篇论文中,强调了数据增强方法背后的基本假设,以及这些假设在对比性学习的背景下如何产生反作用;例如颜色增强,而下游的任务是为了区分物体的颜色。所报告的结果显示,在野外有很好的效果。总的来说,它为使用数据增强进行对比性学习提出了一个优雅的解决方案。
17.Why do tree-based models still outperform deep learning on tabular data? (2022) – Leo Grinsztajn, Edouard Oyallon and Gael Varoquaux
论文致力于回答这样一个问题:为什么深度学习模型在表格数据上仍然难以与基于树的模型相竞争。研究表明,与基于树的模型相比,类似MLP的架构对数据中的非信息特征更加敏感。
福利tips:现在使用|棵岩阅读|,填入激活码2T5LA8,可领取3日体验会员。
-
上一篇
《科学》杂志封面
只需向这个系统展示一个来自陌生文字系统的字符,它就能很快学到精髓,像人一样写出来,甚至还能写出其他类似的文字——更有甚者,它还通过了图灵测试。下面就是机器和人写出的字符。你猜哪些是机器写出来的?傻傻分不清了吧?
机器的作品是1,2;2,1;1,1
这三名研究者分别是纽约大学数据科学中心的Brenden Lake,多伦多大学计算机科学与统计学系的Ruslan Salakhutdinov和麻省理工学院大脑与认知科学系的Joshua Tenenbaum。他们创造的AI系统能够迅速学会写陌生的文字,从某种意义上说明它领悟到了字符的本质特征(也就是字符的整体结构),同时还能识别出非本质特征(也就是那些因书写造成的轻微变异)。
三名研究者从左到右分别是:Ruslan Salakhutdinov, Brenden Lake和Joshua B. Tenenbaum。图/Alain Decarie/The New York Times
人类的概念具有极大的弹性,因此,尽管许多概念的边界十分模糊,但我们依然能进行明确的分类。这三位研究者声称,他们的系统就抓住了这种弹性。该系统能模仿人类的一个特殊天赋——从少量案例中学习新概念。它所根植的计算结构叫做概率程序(probabilistic program),还可能有助于对人类获得复杂概念的过程进行建模。
《科学》封面重磅论文:人工智能终于能像人类一样学习(附论文)
机器之心原创
-
下一篇
中国人工智能论文数称冠全球