Applescript para abrir el marcador de javascript

Hay tres problemas con el script que has publicado, y uno de ellos puede ser sólo un problema que se produjo cuando pegaste el código en tu pregunta.

Empezando desde el principio: Tienes que decirle a Chrome dónde hacer el JavaScript, así:

tell application "Google Chrome" to tell active tab of front window to execute javascript "your script"

Esto ejecutará el script en la pestaña actual de la primera ventana que abriste (AFAIK, todavía no puedes obtener la pestaña activa de la ventana activa).

Lo siguiente, no quieres que javascript: prefijo; Chrome sabe que es JavaScript.

Finalmente, te falta un paren al final de tu línea. De nuevo, no estoy seguro de si esto es sólo un problema de copia, pero es algo que hay que tener en cuenta.

Haciendo los cambios anteriores, tengo este código:

tell application "Google Chrome" to tell active tab of front window to execute javascript "Qr=prompt('Search%20Site%20for','');if(Qr)location.href='http://www.google.com/search?&q=site:'+encodeURIComponent(window.location.hostname)+'+'+escape(Qr)"

...que funciona.