¿Cómo cerrar un archivo y una carpeta usando bash?

El comando abrir abre un archivo en la aplicación predeterminada para ese archivo. Para cerrar el archivo en esa aplicación, deberás controlar la aplicación para cerrar el archivo. Esto dependerá de cuál sea la aplicación, ya que no todas las aplicaciones admiten el control de AppleScript, por ejemplo, y salir de la aplicación no es lo mismo que cerrar un archivo.

Puedes usar osascript para ejecutar un applescript que cierre una ventana en una aplicación específica:

#!/bin/bash                                                                     
osascript -e "tell application "$1"                                             
close window 1                                                                  
end tell"

Guarda este script de shell como "closewindow" y ejecuta chmod +x closewindow.

De esta forma, al ejecutar:

$ closewindow nombredeaplicacion

cerrarás la ventana 1 de nombredeaplicacion.

Debe existir una forma de obtener el número de ventanas abiertas y cerrar la última que se abrió, pero no puedo encontrarla en este momento

No puedes cerrar directamente un archivo, esta es una responsabilidad de la aplicación.

Si cerrar la aplicación es una opción, puedes usar kill o pkill para cerrarla.

O puedes intentar usar Apple Script para cerrar una ventana individual. Ver ¿Cómo cierro una ventana desde una aplicación, pasando el nombre del archivo? en SuperUser