Корисник:Cokovlada/песак

Џефри Еверест Хинтон уреди

Џефри Хинтон
 
Хинтон из 2013.
Лични подаци
Пуно имеЏефри Еверест Хинтон
Датум рођења(1947-12-06)6. децембар 1947.[1]
Место рођењаВимблдон,Лондон,
ОбразовањеКембриџ универзитет(ВА) Универзитет у Единбургу(PhD)
Научни рад
ИнституцијаУниверзитет у Торонту

Гугл

Керниџ Мелон универзитет

Лондонски универзитетски колеџ
УченициРичард Земел[2]

Бернард Фреј[3] Радфорд М. Неал[4] Руслан Салахутдинов[5]

Илија Сусткевер[6]
МенториХристофер Лонгует-Хигинс[7][8][9]
Познат поБекпропагација

Болцманова машина Дубоко учење

Капсуларне неуронске везе
НаградеAAAИ Fellow (1990)

Румелхартова награда (2001) ИJСAИ Награда за изврсност у истраживању (2005) ИEEE Награда Френка Розенбалта (2014) Џејмс Кларк Максфел медаља (2016) BBVA Foundation Frontiers of Knowledge Award (2016)

Тјурингова награда (2018)

Џефри Еверест Хинтон CC FRS FRSC [10] (рођен 6. децембра 1947.) је енглеско–канадски когнитивни психолог и рачунарски научник, највише запажен због свог рада на вештачким неуронским мрежама. Од 2013. године ради за Гутл ( Гугл Мозак ) и на Универзитету у Торонту .

Године 2017. је основао и постао главни научни саветник Векторског института у Торонту. [11] [12]

Уз Давида Румелхарта и Роналда Ј. Виллиамса, Хинтон је ко-аутор веома цитираног чланка објављеног у 1986. који је популаризовао бекпропагацију алгоритам за обуку вишеслојне неуронске мреже[13], иако они нису били први предложи приступ. [14] Неки Хинтона виде као водећу личност у заједници дубоког учења, а неки га називају и "кумом дубоког учења". [15] [16] [17] [18] [19] Драматична прекретница АлекНет -овог препознавања слике коју је дизајнирао његов студент Алек Кризхевски [20] за изазов ИмиџНет-а 2012 [21] помогла је у револуцији у пољу рачунарског вида. [22] Хинтон је добио Тjурингову награду за 2018. годину заједно с Иошуа Бенгиом и Ианом ЛеКуном за њихов рад на дубоком учењу. [23]

Хинтона, заједно са Иошуа Бенгиом и Ианом ЛеКуном, неки називају „ кумовима АИ“ и „кумовима дубоког учења“. [24] [25] [26] [27] [28] [29] [30]

Образовање уреди

Хинтон се школовао на Краљевском Колеџеу у Кембриџу на којем је дипломирао 1970. године, из експерименталне психологије. Студијe је наставио на Универзитету у Единбургу где му је додељен докторат из вештачке интелигенције 1978. за истраживање које је надгледао Христофер Лонгует-Хигинс .

Каријера и истраживања уреди

Након доктората радио је на Универзитету у Сусексу (након тешких покушаја да нађе финансирање у Британији) [31], и радио је на Калифорнијском универзитету, Сан Дијегу и универзитету Керниџ Мелон. Био је оснивач компјутерске јединице за рачунарска неуролошка истраживања Фондације Гетсби на Универзитетском колеџу у Лондону и [32] професор на одељењу за рачунарске науке на Универзитету у Торонту. Има канадску катедру за истраживање машинског учења, а тренутно је саветник програма Учење у машинама и мозгу при канадском институту за напредна истраживања. Хинтон је у образовној платформи Цоурсера 2012. предавао бесплатан онлине курс о Неуронским везама. [33] Хинтон се придружио Гуглу у марту 2013. године када је његова компанија ДиЕнЕн Рисрч Инк. планирала да "подели своје време између универзитетског истраживања и његовог рада на Гуглу". [34]

Хинтонови радови истражују начине коришћења неуронских мрежа за машинско учење, меморију, перцепцију и обраду симбола. Аутор је или коаутор преко 200 рецензираних публикација.

Док је Хинтон био професор на Универзитету Кенриџ Мелон (1982–1987), Дејвид Е. Румелхарт и Хинтон и Роналд Ј. Вилијамс примењивали су алгоритам повратног ширења на вишеслојне неуронске мреже. Њихови експерименти су показали да такве мреже могу научити корисне интерне приказе података. [13] У интервјуу из 2018. године [35] Хинтон је рекао да је Давид Е. Румелхарт смислио основну идеју повратног ширења, па је то његов изум. Иако је овај рад био важан у популаризацији ретропропагације, није први предложио такав приступ. [14] Аутоматско разликовање у обрнутом режиму, од чега је повратно ширење посебан случај, предложио је Сепо Линаинма 1970. године, а Паул Вербос је предложио да га користи за тренирање неуронских мрежа 1974. године.

У истом периоду Хинтон је заједно са Дејвидом Аклијем и Теријем Сејновским изумео болцманове машине. [36] Његови други доприноси истраживању неуронске мреже укључују дистрибуиране репрезентације, временску одгоду неуронске мреже, мешавине стручњака, хелмхолтове машине и Продукт оф Експертс. У 2007. години Хинтон је написао чланак о ненадгледаном учењу под називом Ненадзирано учење трансформација слике. [37] Приступ уводу у истраживање реија Хинтона налази се у његовим чланцима у часопису Сајентифик Американ у септембру 1992. и октобру 1993. године. [38]

У октобру и новембру 2017. Хинтон је објавио два истраживачка рада отвореног приступа [39] [40] о теми неуронских мрежа капсула, који су, према Хинтоновим речима, „коначно нешто што добро функционише“. [41]

Угледни бивши докторанти и постдокторски истраживачи из његове групе укључују Рчарда Земела, Брендана Фреиа, Радфорда М. Неал, Руслана Салакхутдинова, Илјиу Сутскевер, Иана ЛеКјуна [42] и Зоубина Гхахраманиа.

Награде и признања уреди

 
С лева на десно Руслан Салахутдиов, Ричард С. Сутон, Џефри Хинтон, Иосхуа Бенгио и Стив Јурветсон у 2016. години

Хинтон је изабран добитник награде Лице Високог Друштва (FRS) из 1998.[10] Он је први добитник Румелхартове Награде 2001.[43] Његов сетификат за избор награде Краљевског (високог) говори:

Џефри Е. Хинтон је међународно уважен због својег рада на вештачким неуронским мрежама, поготово како оне могу бити пројектоване да уче без људског учитеља. Ово може бити почетак самосталног интелигентног система који наликује мозгу. Он је упоредио последице повреда мозга са ефектима губитака у таквој мрежи, и пронашао сличности са човековим препознавањем имена и губитака категоризације. Његов посао обухвата студије менталних слика, и проналажење начина за тестирање оригиналне и креативне интелигенције. Он спаја вештине и напоре да направи озбиљан посао и оствари интересе.[44]

Године 2001. Хинтон је награђен почасним докторатом на Универзитету у Единбургу. [45] Био је добитник награде ИЈЦАИ 2005. за награду за животно дело у истраживачкој изврсности. [тражи се извор] Такође је награђен златном медаљом Херзберг Канада из 2011. за науку и инжењерство. [46] 2013. године Хинтон је награђен почасним докторатом са Универзитета де Шербрук. [тражи се извор]

Године 2016. изабран је за страног члана Националне инжењерске академије „За допринос теорији и пракси вештачких неуронских мрежа и њиховој примени у препознавању говора и рачунарском виду“. [47] Такође је добио 2016. ИЕЕЕ / РСЕ Волфсон Џејмс Кларк Маквсфел награду. [48]

Освојио је награду ББВА награду фондације Фронтиерс за знање (2016) у категорији информационе и комуникационе технологије "за свој пионирски и веома утицајан рад" за обдарење машина са способношћу учења. [тражи се извор]

Заједно с Ианом ЛеКјуном и Иосхуа Бенгиом, Хинтон је 2018. освојио Тјуринг награду за концептуалне и инжењерске пробоје који су дубоке неуронске мреже учинили критичном компонентом рачунарства. [49] [50] [51]

Лични живот уреди

Хинтон је праунук и логиста Џорџа Була чији је рад на крају постао један од темеља модерне рачунарске науке, и хирурга и писца Џејмса Хинтона. [52] који је био отац Чарлса Ховарда Хинтона. Хинтонов отац био је Ховард Хинтон. [53] Његово средње име је од другог рођака, Џорџа Евереста. [31] Он је нећак економиста Колина Кларка. [54] Прву супругу је због рака јајника изгубио 1994. године. [55]

Хинтон се преселио из САД-а у Канаду због разочарања политиком Роналда Реагана и неодобравањем војног финансирања вештачке интелигенције. [31]

Хинтон је поднео молбу против смртоносног аутономног оружја. Што се тиче егзистенцијалног ризика од вештачке интелигенције, Хинтон обично одбија да предвиђа више од пет година у будућност, примећујући да експоненцијални напредак чини неизвесност превеликом. [56] Међутим, у неформалном разговору са истраживачем ризика од АИ Ником Бостромом у новембру 2015., који је чуо новинар Рафи Катцхадауриан, [57] он је, како се извештава, изјавио да није очекивао да ће општи АИ бити постигнут деценијама („Најкасније до 2070. "), И да је, у контексту дихотомије коју је Бостром раније увео између људи који мисле да је управљање егзистенцијалним ризиком вештачке интелигенције вероватно безнадежно наспрам довољно лако да ће се аутоматски решити, Хинтон" је у табору који је безнадан. " Изјавио је: „Мислим да ће га политички системи користити да тероришу људе“ и изразио је уверење да агенције попут Националне агенције за безбедност (НСА) већ покушавају да злоупотребе сличну технологију.

На питање Ника Бострома зашто наставља истраживање упркос озбиљној забринутости, Хинтон је изјавио: "Могао бих да вам дам уобичајене аргументе. Али истина је да је могућност открића превише слатка. " [57]

Према истом извештају, Хинтон категорички не искључује људска бића која контролишу вештачку суперинтелигенцију, али упозорава да "не постоје добри подаци о мање интелигентним стварима које контролишу ствари веће интелигенције". [57]

Референце уреди

  1. ^ Anon (2015) Hinton, Prof. Geoffrey Everest. Who's Who (online Oxford University Press изд.). A & C Black, an imprint of Bloomsbury Publishing plc.  doi:10.1093/ww/9780199540884.013.20261 (потребна претплата)
  2. ^ Zemel, Richard Stanley (1994). A minimum description length framework for unsupervised learning (Теза). University of Toronto. OCLC 222081343. ProQuest 304161918. 
  3. ^ Frey, Brendan John (1998). Bayesian networks for pattern classification, data compression, and channel coding (Теза). University of Toronto. OCLC 46557340. ProQuest 304396112. 
  4. ^ Neal, Radford (1995). Bayesian learning for neural networks (Теза). University of Toronto. OCLC 46499792. ProQuest 304260778. 
  5. ^ Salakhutdinov, Ruslan (2009). Learning deep generative models (Теза). University of Toronto. ISBN 9780494610800. OCLC 785764071. ProQuest 577365583. 
  6. ^ Sutskever, Ilya (2013). Training Recurrent Neural Networks (Теза). University of Toronto. OCLC 889910425. ProQuest 1501655550. 
  7. ^ Cokovlada/песак на сајту MGP (језик: енглески)
  8. ^ Geoffrey E. Hinton's Academic Genealogy
  9. ^ Gregory, R. L.; Murrell, J. N. (2006). „Hugh Christopher Longuet-Higgins. 11 April 1923 -- 27 March 2004: Elected FRS 1958”. Biographical Memoirs of Fellows of the Royal Society. 52: 149—166. doi:10.1098/rsbm.2006.0012. 
  10. ^ а б Anon (1998). „Professor Geoffrey Hinton FRS”. London: Royal Society. Архивирано из оригинала 3. 11. 2015. г.  One or more of the preceding sentences incorporates text from the royalsociety.org website where:

    "All text published under the heading 'Biography' on Fellow profile pages is available under Creative Commons Attribution 4.0 International License." --„Royal Society Terms, conditions and policies”. Архивирано из оригинала 11. 11. 2016. г. Приступљено 2016-03-09. 

  11. ^ Daniela Hernandez (7. 5. 2013). „The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI”. Wired. Приступљено 10. 5. 2013. 
  12. ^ „Geoffrey E. Hinton – Google AI”. Google AI (на језику: енглески). 
  13. ^ а б Rumelhart, David E.; Hinton, Geoffrey E.; Williams, Ronald J. (9. 10. 1986). „Learning representations by back-propagating errors”. Nature (на језику: енглески). 323 (6088): 533—536. Bibcode:1986Natur.323..533R. ISSN 1476-4687. doi:10.1038/323533a0. 
  14. ^ а б Schmidhuber, Jürgen (2015-01-01). „Deep learning in neural networks: An overview”. Neural Networks. 61: 85—117. PMID 25462637. arXiv:1404.7828 . doi:10.1016/j.neunet.2014.09.003. 
  15. ^ „Geoffrey Hinton was briefly a Google intern in 2012 because of bureaucracy – TechCrunch”. techcrunch.com (на језику: енглески). Приступљено 28. 3. 2018. 
  16. ^ Somers, James. „Progress in AI seems like it's accelerating, but here's why it could be plateauing”. MIT Technology Review (на језику: енглески). Приступљено 28. 3. 2018. 
  17. ^ „How U of T's 'godfather' of deep learning is reimagining AI”. University of Toronto News (на језику: енглески). Приступљено 28. 3. 2018. 
  18. ^ „'Godfather' of deep learning is reimagining AI”. Приступљено 28. 3. 2018. 
  19. ^ „Geoffrey Hinton, the 'godfather' of deep learning, on AlphaGo”. Macleans.ca (на језику: енглески). 18. 3. 2016. Приступљено 28. 3. 2018. 
  20. ^ Dave Gershgorn (18. 6. 2018). „The inside story of how AI got good enough to dominate Silicon Valley”. Quartz. Приступљено 5. 10. 2018. 
  21. ^ Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffrey E. (3. 12. 2012). „ImageNet classification with deep convolutional neural networks”. Nips'12. Curran Associates Inc.: 1097—1105. 
  22. ^ „How a Toronto professor's research revolutionized artificial intelligence | Toronto Star”. thestar.com (на језику: енглески). Приступљено 13. 3. 2018. 
  23. ^ 27 Mar, Emily Chung · CBC News · Posted; March 27, 2019 6:00 AM ET | Last Updated. „Canadian researchers who taught AI to learn like humans win $1M award | CBC News”. CBC (на језику: енглески). Приступљено 27. 3. 2019. 
  24. ^ „'Godfathers of AI' honored with Turing Award, the Nobel Prize of computing”. 27. 3. 2019. 
  25. ^ „'Godfathers of AI' honored with Turing Award, the Nobel Prize of computing”. 27. 3. 2019. 
  26. ^ „Godfathers of AI Win This Year's Turing Award and $1 Million”. 29. 3. 2019. 
  27. ^ https://www.telegraph.co.uk/technology/2019/03/27/google-awards-1m-turing-prize-godfathers-ai/
  28. ^ https://www.forbes.com/sites/samshead/2019/03/27/the-3-godfathers-of-ai-have-won-the-prestigious-1m-turing-prize/
  29. ^ https://www.zdnet.com/article/deep-learning-godfathers-bengio-hinton-and-lecun-say-the-field-can-fix-its-flaws/
  30. ^ https://www.bloomberg.com/news/articles/2019-03-27/three-godfathers-of-deep-learning-selected-for-turing-award
  31. ^ а б в Smith, Craig S. (23. 6. 2017). „The Man Who Helped Turn Toronto into a High-Tech Hotbed”. The New York Times. Приступљено 27. 6. 2017. 
  32. ^ https://www.cs.toronto.edu/~hinton/fullcv.pdf
  33. ^ „Archived copy”. Архивирано из оригинала 31. 12. 2016. г. Приступљено 30. 12. 2016. 
  34. ^ „U of T neural networks start-up acquired by Google” (Саопштење). Toronto, ON. 12. 3. 2013. Приступљено 13. 3. 2013. 
  35. ^ Ford, Martin (2018). Architects of Intelligence: The truth about AI from the people building it. Packt Publishing. ISBN 978-1-78913-151-2. 
  36. ^ Ackley, David H; Hinton Geoffrey E; Sejnowski, Terrence J (1985), "A learning algorithm for Boltzmann machines", Cognitive science, Elsevier, 9 (1): 147–169
  37. ^ Hinton, Geoffrey E. „Geoffrey E. Hinton's Publications in Reverse Chronological Order”. 
  38. ^ „Stories by Geoffrey E. Hinton in Scientific American”. 
  39. ^ Sabour, Sara; Frosst, Nicholas; Hinton, Geoffrey. October 2017. "Dynamic Routing Between Capsules"
  40. ^ "Matrix capsules with EM routing" 3 November 2017. OpenReview.net
  41. ^ Geib, Claudia. 2 November 2017. "We’ve Finally Created an AI Network That’s Been Decades in the Making" Futurism.com
  42. ^ „Yann LeCun's Research and Contributions”. yann.lecun.com. Приступљено 13. 3. 2018. 
  43. ^ „Current and Previous Recipients”. David E. Rumelhart Prize. Архивирано из оригинала 2. 3. 2017. г. 
  44. ^ Anon (1998). „Certificate of election EC/1998/21: Geoffrey Everest Hinton”. London: Royal Society. Архивирано из оригинала 5. 11. 2015. г. 
  45. ^ „Distinguished Edinburgh graduate receives ACM A.M. Turing Award”. Приступљено 9. 4. 2019. 
  46. ^ „Artificial intelligence scientist gets M prize”. CBC News. 14. 2. 2011. 
  47. ^ „National Academy of Engineering Elects 80 Members and 22 Foreign Members”. NAE. 8. 2. 2016. 
  48. ^ „2016 IEEE Medals and Recognitions Recipients and Citations” (PDF). IEEE. Приступљено јул 7, 2016.  Проверите вредност парамет(а)ра за датум: |access-date= (помоћ)
  49. ^ „Vector Institutes Chief Scientific Advisor Dr.Geoffrey Hinton Receives ACM A.M. Turing Award Alongside Dr.Yoshua Bengio and Dr.Yann Lecun”. NAE. 27. 3. 2019. 
  50. ^ „Three Pioneers in Artificial Intelligence Win Turing Award”. New York Times. 27. 3. 2019. Приступљено 27. 3. 2019. 
  51. ^ „Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award - Bengio, Hinton and LeCun Ushered in Major Breakthroughs in Artificial Intelligence”. Association for Computing Machinery. 27. 3. 2019. Приступљено 27. 3. 2019. 
  52. ^ The Isaac Newton of logic
  53. ^ Salt, George (1978). „Howard Everest Hinton. 24 August 1912-2 August 1977”. Biographical Memoirs of Fellows of the Royal Society. 24: 150—182. ISSN 0080-4606. doi:10.1098/rsbm.1978.0006 . 
  54. ^ Shute, Joe (26. 8. 2017). „The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?”. The Telegraph. Приступљено 20. 12. 2017. 
  55. ^ Shute, Joe (26. 8. 2017). „The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?”. The Telegraph. Приступљено 30. 1. 2018. 
  56. ^ Hinton, Geoffrey. „Lecture 16d The fog of progress” (PDF). 
  57. ^ а б в Khatchadourian, Raffi (16. 11. 2015). „The Doomsday Invention”. The New Yorker. Приступљено 30. 1. 2018.