החל את הקריירה שלו כסטנדאפיסט במועדוני לילה בשנות ה70 וכשחקן קומי למחצה בכמה סרטים קטנים ובסדרת הטלוויזיה הנודעת "מורק ומינדי" (78-) בה כיכב לאורך כמה עונות מוצלחות מאוד. פריצתו הגדולה בקולנוע היתה ב"העולם על פי גארפ" (82) ו"מוסקווה על ההדסון" (84). שני התפקידים שילבו בתוכם את כישרונו המופלא בגילום דמויות ספק בוגרות, ספק ילדותיות. במשך השנים נשאר כשחקן המגיע לרגעי טירוף קומיים - היסטריים כמו ב"בוקר טוב ויאטנם" (87), "הרפתקאות הברון מינכהאוזן" (89),ומצד שני יכול לשחק את חוסר השפיות הקליני ב"פישר קינג" (91), "התעוררות" (90). סרטים נוספים: "פופאיי" (80) שהיה כשלונו הגדול ביותר, "מובטלים" (83) לצידו של וולטר מתיאו, "ללכת שבי אחריו" (89), "הרפתקאות הברון מינכהאוזן" (89) בתפקיד מלך הירח, "איש הקדילק" (90), "רצח מהעבר" (91) של קנת בראנה בתפקיד הרופא המעורער. "הוק" (91), "צעצועים" (92), "אלאדין" (92) בקולו של השד, "גב" דאוטפייר" (93), "תשעה חודשים" (95) שוב כרופא, "ג"ומנג"י" (95).
וויליאמס זכה בפרס האוסקר לשחקן המשנה הטוב ביותר על תפקיד הפסיכולוג שגילם בסרט "סיפורו של וויל האנטינג".