Vous « possédez » la machine si vous avez les droits d'« Administrateur » local donc, oui, vous pouvez.
Mark Russinovich parle du contournement de la stratégie de groupe dans cet article de blog. En résumé, les paramètres GPO sont stockés dans le registre et un administrateur local peut modifier ces clés de registre directement. Cependant, les paramètres seront réappliqués au prochain cycle de rafraîchissement de la GPO (toutes les 90 minutes environ).
Pour une solution permanente, vous pouvez bloquer les mises à jour de la GPO en arrêtant le service Client de stratégie de groupe ou en refusant les permissions NTFS sur le dossier de cache GPO.