Bueno, esto es algo simple, pero me pareció raro no encontrarlo en T! (al menos yo no encontré)
Una de las maneras que tenemos en Ubuntu de desinstalar paquetes es mediante el comando apt-get remove. Lo que hace este comando es desinstalar el software que ya no usemos pero nos deja los archivos de configuración y los archivos que hayamos descargado para su instalación. Entonces vamos a hacer una desinstalación en tres pasos:
01- sudo apt-get remove “nombre-del-paquete”
02- sudo apt-get purge “nombre-del-paquete”
03- sudo apt-get clean “nombre-del-paquete”
Lo que estamos haciendo es lo siguiente, en el paso uno le pedimos que nos desinstale el paquete elegido, en el paso dos que borre los archivos de configuración de ese paquete y por último, en el paso tres, que elimine del disco los archivos descargados para la instalación (si pensamos volver a instalar este paquete y nos sobra espacio en el disco no haría falta hacer este último paso, pero si querés mantener tu Ubuntu limpio, sería recomendable.)
PD: Podés utilizar el comando aptitude en lugar de apt-get si así lo preferís.
Bueno eso es todo, no te olvidés de comentar.
Fuente