¿Cómo programar la grabación de VLC con cron?

Estás utilizando la interfaz rc (control remoto), que espera la entrada en la línea de comandos, es decir, espera una sesión interactiva.

Desde cron pruebe la interfaz ficticia:

0/5 * * * * /Applications/VLC.app/Contents/MacOS/VLC -I dummy rtp://@xxx.xxx.xxx.xxx:5050 --sout='#transcode{vcodec=h264,vb=2048,acodec=mp3,ab=192,deinterlace}:standard{mux=ts,access=file{no-overwrite},dst=/Users/me/Pictures/video.ts}' --run-time=10 --play-and-exit >> /tmp/log.txt 2>&1

Parece que cron no establece las variables de entorno de la misma manera cuando se ejecuta que cuando lo haría en un shell estándar o desde un shell script. Echa un vistazo a las páginas de manual de cron y comprueba si hay que modificar algo más en el crontab o añadirlo al principio del propio script. Por ejemplo, puedes declarar al principio del script: SHELL=/bin/sh para asegurarse de que se está ejecutando con el shell correcto.