카리오우는 온타리오 스트랏포드에서 연기를 시작했는데 리어왕, 맥베드, 프로스페로, 콜리오라누스, 브루터스, 페트루치오, 라고, 오베론, 헨리 5세 등의 고전적인 작품의 역할을 하였다. 1968년 <The House of Atreus>로 브로드웨이에 데뷔했다. 2년 후 <Applause>에 주연을 맡았고, 영화 <All About Eve>에 출연하였다. 이 작품은 남우주연상에 노미네이트 되었고, 씨어터월드어워드를 수상하였다. 1973년 두 번째 뮤지컬 <A Little Night Music>에 출연하였고 6년 후 손드하임의 <Sweeney Todd>로 토니와 드라마데스크 어워드를 수상하였다. 다음 작품은 알란 제이 러너와 찰스 스트로우스 뮤지컬 <Dance a Little Closer, 1983>과 아서 밀러의 작품 <Up from paradise, 1983>, <Teddy & Alice, 1987>에 출연하였다.

2002년 드라마 <Proof>에 출연하였고, 카리오우가 출연한 영화 <Flags of Our Fathers., <About Schmidt>, <Thirteen Days>, <The Four Seasons> 등에 출연하였고, 엘리자베스 테일러와 함께 영화 <A Little Night Music>에 출연하였다.

2007년 영화 <1408>에 아버지로 출연하였고, <The west Wing>, <Law & Order>, <Star Trek: Voyager>, <The Practice>, <Ed>, <The Outer Limits> 등에 출연하였다. 2004년에 명예의 전당에 올랐다.