×

representation learning

representation learning(深度学习主要是学习那些方面的好找工作吗)

admin admin 发表于2023-02-12 18:56:11 浏览29 评论0

抢沙发发表评论

本文目录

深度学习主要是学习那些方面的好找工作吗

深度学习已经在语音识别、图像处理等方面取得了巨大成功。从2013、2014年开始,也在自然语言处理领域出现深度学习的应用浪潮,例如今年ACL上有人(应该是BBN公司?)利用深度学习极大地提升了统计机器翻译的性能,颇值得期待。

关于深度学习的挑战与方向,其实可以关注深度学习重要学者们的相关综述文章和专著,例如Yoshua Bengio曾经写过的Learning Deep Architectures for AI (2009年)、Practical Recommendations for Gradient-Based Training of Deep Architectures(2012年)、Representation Learning: A Review and New Perspectives (2013年)。

限于自己的研究方向和兴趣,我比较关注的一个方向如下,希望与大家交流。人们一般认为深度学习在语音识别和图像处理方面能够取得长足进度,是因为这两个领域的相关特征信息都是相对低层次的,可以借助深度学习的强大学习能力学习其中的复杂信息;而到了自然语言处理领域,人们利用深度学习做过很多尝试,发现很难取得像语音识别和图像处理那么大的突破,原因在于自然语言的相关特征信息都是相对高层次的(如自然语言的基本单位——词汇——本身就有丰富的语义内涵,与图像中的“线条”、“纹理”等特征相比尤其如此),在深度学习之前就由语言专家编制了很多精致而复杂的知识库,如WordNet等,这些知识已经将相关处理性能推到了较高层次。因此,当深度学习进入自然语言时,如果还是像语音识别、图像处理那样从零知识开始做特征学习,相当于将丰富的语言知识弃之不用而另起炉灶,是不符合自然语言处理特点的。所以,深度学习的一个可能重要的发展方向是,如何在深度学习框架中高效地融合人们已经构建出来的丰富先验知识(包括语言知识、世界知识)。

需要注意的是,与LDA(latent Dirichlet allocation)等之前流行的机器学习算法不同,深度学习不是某个具体算法,而是采用”深度“学习思想的一系列算法的统称,在机器学习领域中(如ICML、NIPS),貌似很少有论文会以deep learning命名,而是具体算法的名称,如autoencoder,等等。因此,建议首先阅读一些tutorial,了解深度学习中的主要算法和人物,然后再去了解具体算法。

深度学习还是好找工作的,一般学成出来工资都不会低,而且现在的语音识别,机器识别等都离不开深度学习,应用领域宽广,包括电商,医疗,安全,游戏等。所以你没有必要学习其他领域,转到其他方向,要能做个好的项目,找工作绝对不用发愁。

车万翔是谁在他的背后又有哪些传奇经历

车万翔

车万翔博士,哈尔滨工业大学计算机学院副教授,博士生导师,斯坦福大学访问学者,主要研究领域为自然语言处理。在ACL、EMNLP、AAAI等国内外高水平期刊和会议上发表学术论文40于篇,其中AAAI2013年的文章获得了Outstanding Paper Honorable Mention奖,出版教材2部,译著2部。目前承担国家自然科学基金、973等多项科研项目。负责研发的语言技术平台(LTP)已被500余家单位共享,有用户5,000余人,并授权给百度、腾讯、华为等公司使用。2009年,获CoNLL国际句法和语义分析评测中第一名。2015年,获Google Focused Research Award;2012年,获黑龙江省技术发明奖二等奖;2010年获钱伟长中文信息处理科学技术奖一等奖、汉王青年创新奖等多项奖励。

中文名

车万翔

职业

教师

职务

副教授、博士生导师

毕业院校

哈尔滨工业大学

学位/学历

博士

专业方向

人工智能、自然语言处理

工作单位

哈尔滨工业大学计算机学院

教育背景

2008年12月哈尔滨工业大学计算机科学与技术学院获工学博士学位

2002年7月哈尔滨工业大学计算机科学与技术学院获工学学士学位

工作经历

2014年04月—今哈尔滨工业大学计算机学院博士生导师

2011年12月—今哈尔滨工业大学计算机学院副教授

2012年1月—2013年1月斯坦福大学自然语言处理组访问学者

2010年4月—2010年6月百度公司(Baidu)访问学者

2007年1月—2007年6月新加坡信息通讯研究所(I2R)访问学生

2006年7月—2011年12月哈尔滨工业大学计算机学院讲师

2004年7月—2006年7月哈尔滨工业大学计算机学院助教

研究方向

自然语言处理:句法分析、语义分析

所获奖项

2015年Google专注研究奖

2013年中国博士后科学基金特别资助

2012年黑龙江省技术发明二等奖(排名第二)

2010年汉王青年创新奖一等奖

2010年钱伟长中文信息处理科学技术奖一等奖(排名第二)

2005年微软学者

2002年《计算机世界》优秀学生奖学金

2001年IBM中国优秀学生奖学金

学术服务

机构

SIGHAN: Information Officer

中国中文信息学会计算语言学专委会委员、青年工作委员会执行委员

中国计算机学会高级会员

会议

ACL: 领域主席 (2016), 出版主席 (2015), Faculty Advisor of Student Research Workshop (2015), 审稿人

EMNLP: 出版主席 (2011)

SemEval: 语义分析评测组织者 (2012, 2016)

期刊

IEEE/ACM Transactions on Audio, Speech, and LanguageProcessing(TASLP): 审稿人

ACM Transactions on Asian Language Information Processing (TALIP): 审稿人

Journal of Artificial Intelligence Research (JAIR): 审稿人

科研项目

2014年1月—2017年12月,依存句法分析子结构可信度计算研究(61370164),国家自然科学基金面上项目, 项目负责人

2014年1月—2018年6月,面向三元空间的互联网中文信息处理理论与方法(2014CB340503),国家973计划项目,主要参与人

2009年1月—2011年12月,汉语依存句法分析若干关键技术研究(60803093),国家自然科学青年基金, 项目负责人

2011年1月—2012年12月,基于分治算法的高效率依存句法分析研究(HIT.KLOF.2010064),哈工大语言语音教育部-微软重点实验室开放基金, 项目负责人

2010年1月—2011年12月,汉语语义依存分析技术研究(HIT.NSRIF.2009069),哈尔滨工业大学科研创新基金, 项目负责人

2008年1月—2010年12月,基于实体关系的文本内容挖掘与集成技术平台(2008AA01Z144),863计划探索类专题项目,第2负责人

2007年1月—2009年12月,汉语语义角色标注方法研究(60675034),国家自然科学基金面上项目,第2负责人

2007年1月—2008年12月,基于XML的分层交互式中文处理开放平台(2006AA01Z145),国家863项目,第2负责人

2006年1月—2008年12月,基于等价伪词的汉语全文无指导词义消歧技术研究(60575042),国家自然科学基金面上项目,主要负责人

发表论文

2016

Jiang Guo, Wanxiang Che, David Yarowsky, Haifeng Wang and Ting Liu. A Distributed Representation-basedFrameworkfor Cross-lingual Transfer Parsing. Journal of Artificial Intelligence Research. (Accepted)

Jiang Guo, Wanxiang Che, David Yarowsky, Haifeng Wang and Ting Liu. A Representation Learning Framework for Multi-source Transfer Parsing. In Proceedings of the 30th AAAI Conference on Artificial Intelligence (AAAI 2016). (Accepted).

2015

Wanxiang Che, Yanyan Zhao, Honglei Guo, Zhong Su, Ting Liu.SentenceCompressionfor Aspect-Based Sentiment Analysis. IEEE/ACM Transactions on Audio, Speech, and LanguageProcessing. 2015, 23(12):2111 - 2124.

Jiang Guo, Wanxiang Che, David Yarowsky, Haifeng Wang and Ting Liu.Cross-Lingual Dependency Parsing Based on Distributed Representations. In Proceedings of the 53th Annual Meeting of the Association for Computational Linguistics (ACL 2015). 2015.07. Beijing, China.

Ruiji Fu, Jiang Guo, Bing Qin, Wanxiang Che, Haifeng Wang, Ting Liu.Learning Semantic Hierarchies: A Continuous Vector Space Approach. IEEE/ACM Transactions on Audio, Speech, and Language Processing. 2015, 23(3):461 - 471.

Yijia Liu, Yue Zhang, Wanxiang Che, Bing Qin.Transition-Based Syntactic Linearization. In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics (NAACL 2015). 2015.06. Denver, CO.

2014

Jiang Guo, Wanxiang Che, Haifeng Wang, Ting Liu.Revisiting Embedding Features for Simple Semi-supervised Learning. In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP 2014). 2014.10. Doha, Qatar.

Yijia Liu, Yue Zhang, Wanxiang Che, Ting Liu.DomainAdaptationfor CRF-based Chinese Word Segmentation using Free Annotations. In Proceedings of the Conference on Empirical Methods in Natural Language Processing (EMNLP 2014). 2014.10. Doha, Qatar.

Yanyan Zhao, Wanxiang Che, Honglei Guo, Bing Qin, Zhong Su, Ting Liu.Sentence Compression for Target-Polarity WordCollocationExtraction. In Proceedings of the 25th International Conference on Computational Linguistics (Coling 2014). 2014.08. Dublin, Ireland.

Jiang Guo, Wanxiang Che, Haifeng Wang, Ting Liu.Learning Sense-specific Word Embeddings By Exploiting Bilingual Resources. In Proceedings of the 25th International Conference on Computational Linguistics (Coling 2014). 2014.08. Dublin, Ireland.

Meishan Zhang, Wanxiang Che, Ting Liu.Jointly or Separately: Which is Better for Parsing Heterogeneous Dependencies?. In Proceedings of the 25th International Conference on Computational Linguistics (Coling 2014). 2014.08. Dublin, Ireland.

Meishan Zhang, Yue Zhang, Wanxiang Che, Ting Liu.Character-level Chinese Dependency Parsing. In Proceedings of the 52th Annual Meeting of the Association for Computational Linguistics (ACL 2014). 2014.06.Baltimore, MD.

Ruiji Fu, Jiang Guo, Bing Qin, Wanxiang Che, Haifeng Wang, Ting Liu.Learning Semantic Hierarchies via Word Embeddings. In Proceedings of the 52th Annual Meeting of the Association for Computational Linguistics (ACL 2014). 2014.06. Baltimore, MD.

Wanxiang Che, Jiang Guo, and Ting Liu.ReliAble Dependency ArcRecognition. Expert Systems withApplications. 2014, 41(4):1716-1722.

Zhenghua Li, Min Zhang, Wanxiang Che, Ting Liu, and Wenliang Chen.Joint Optimization for Chinese POS Tagging and Dependency Parsing. IEEE/ACM Transactions on Audio, Speech, and Language Processing. 2014, 22(1):274 - 286.

报错

取消

目录

您的网络环境不好,请耐心等待