В качестве игрока Карло Анчелотти выступал в амплуа полузащитника. Провел 26 матчей за сборную Италии по футболу, участвовал в Чемпионате мира 1990 года.

Анчелотти начал свою профессиональную карьеру футболиста в 1976 году в футбольном клубе «Парма». В 1979 году состоялся его переход в «Рому», в составе которой он выиграл итальянский чемпионат и 4 раза Кубок Италии. С 1987 по 1992 годы Карло Анчелотти был игроком легендарного состава «Милана», выигравшего 2 раза подряд Кубок Европейских Чемпионов в 1989 и 1990 годах.

Лучший тренер 2007 года по версии Международной федерации футбольной истории и статистики (IFFHS)