Programme installieren: DMG mounten -> Programm in den Programm-Ordner ziehen -> DMG-Laufwerk unmounten -> DMG entsorgen
Die DMG-Dateien sind Image-Dateien (wie z.B. ISO) und können durch Doppelklick gemountet werden. Da alle gemounteten Laufwerke auf dem Schreibtisch erscheinen, erscheint dann auch dieses virtuelle Laufwerk auf dem Schreibtisch. Durch ziehen auf den Papierkorb (verwandelt sich dann in ein Eject-Symbol) kann das Laufwerk ungemountet/ausgeworfen werden.
Die OSX-Programme sind (fast immer) Selfcontaining-Apps, d.h. das Programm enthält alle zum Ausführen notwendigen Dateien (das Programm ist nämlich eigentlich ein Ordner).
Daher wird weder die DMG-Datei noch das gemountete Volumen zum Ausführen des Programms benötigt, man kann sie also ohne Probleme löschen.
Um gleich einer weiteren Frage vorweg zu greifen:
Die Programme, die du auf diese Weise "installiert" hast, können einfach durch ziehen in den Papierkorb "deinstalliert" werden.
Bei Hardware-Nahen Programmen, die Treiber oder Kernel-Extension installieren/benötigen oder Plug-Ins, haben entweder einen Uninstaller oder zumindest eine Anleitung zum Entfernen.