Anna Loos est née à Vienne dans une famille juive aisée. Son père, Moriz Bloch (qui changea plus tard son nom en Loos), était un banquier et sa mère, Pauline née Gumpert, une chanteuse d'opéra. Elle fréquenta le lycée de filles de Vienne et montra très tôt une passion pour l'art et l'architecture.
En 1896, Anna Loos déménagea à Munich où elle étudia l'architecture à l'Académie des Beaux-Arts sous la direction de Friedrich von Thiersch. Elle fut la seule femme parmi les dix-huit étudiants de ce cours, ce qui lui valut beaucoup de difficultés mais aussi d'encouragement pour poursuivre sa carrière.
Après son mariage avec un homme d'affaires allemand en 1898, elle fit une pause dans sa carrière et déménagea à Berlin où elle se consacra à la gestion de sa maison et de la croissance de leur famille, qui comprend deux filles.
En 1904, elle divorça et retourna à Vienne, où elle continua son apprentissage en travaillant pour l'architecte Adolf Loos, avec lequel elle n'était pas apparentée. Elle devint son assistant principal dans les années qui suivirent, contribuant au développement du style moderniste qu'il a popularisé.
En 1908, Anna Loos ouvrit son propre cabinet d'architecture à Vienne et fut la première femme à obtenir sa licence d'architecte en Autriche-Hongrie. Elle se consacra à la conception de maisons unifamiliales pour les classes supérieures de la société viennoise, qui incluaient des éléments de modernisme, de fonctionnalité et de design minimaliste.
En 1920, elle épousa l'architecte Richard Neutra et déménagea aux États-Unis où ils fondèrent un cabinet d'architecture à Los Angeles en 1928. Elle conçut des maisons résidentielles dans différents quartiers de la ville, dont certaines sont toujours intactes aujourd'hui.
Anna Loos se retira de son activité professionnelle en 1947 pour se consacrer à sa famille et à sa vie privée. Elle mourut à Hollywood en août 1956. Son travail a été une source d'inspiration pour les architectes qui ont suivi, notamment pour la conception de maisons modernistes fonctionnelles et économiques.