Gefunden auf: http://linuxundich.de/ubuntu/alte-kernel-inkl-header-mit-nur-einem-befehl-entfernen/
$ sudo dpkg -l 'linux-*' | sed '/^ii/!d;/'"$(uname -r | sed "s/\(.*\)-\([^0-9]\+\)/\1/")"'/d;s/^[^ ]* [^ ]* \([^ ]*\).*/\1/;/[0-9]/!d' | xargs sudo apt-get -y purge
oder:
$ sudo aptitude purge "~i (linux-image-3|linux-headers-3) ! $(expr "$(uname -r)" : '\(^.*\)-')"