1956 myntade han begreppet Artificiell Intelligens (AI) och grundade därmed det forskningsprogram som går ut på att få datorer att bete sig intelligent med hjälp av logiska och grammatiska regler.
Samtidigt skapade han programspråket Lisp, som dels etablerades som verktyg bland AI-forskare och dels var det första exemplet på ett så kallat funktionellt programspråk. Lisp var ett av de första högnivåprogramspråken och skapades 1958, ett år efter Fortran.
Varken forskningsprogrammet AI i dess ursprungliga form eller funktionell programmering har fått ett brett industriellt genomslag utanför universitetsvärlden.
1971 förärades han Turingpriset, datorvärldens nobelpris.
John McCarthy var en flitig debattör även utanför sitt expertområde. Här är hans webbsida med tankar kring hållbarhet och jordens resurser (länk). Här är 19 851 meddelanden från diskussionsforumet Usenet postade mellan 1995 och 2006 undertecknade med hans signatur (länk).
John McCarthy är det tredje namnet ur läroböckerna som går bort på kort tid. Steve Jobs datorfamilj Macintosh fungerade i universitetsvärlden som exempel på ergonomisk design av datoranvändargränssnitt. Dennis Ritchies programspråk C var ett huvudverktyg i undervisningen i operativsystem. Och John McCarthy:s programspråk Lisp introducerade studenter för forskningsområdet Artificiell Intelligens och för konceptet funktionell programmering.