Frente al edificio de Infantes se encuentra la casa que, en el Siglo XVIII, se levantó para alojamiento de las personas de Cámara. Comenzó a edificarse en el año 1774 bajo la dirección de José Díaz Gamones. Se trata de un palacete con sobria fachada principal, en la cual se abren vanos sencillos, y en el centro una portada de entrada rematada por guardapolvos rectos. Es de destacar el tratamiento curvo de la esquina en piedra, lo cual remite a modelos de la trama barroca. Como en otros casos, decoran sus superficies exteriores revocados con motivos arquitectónicos hoy restaurados. En el interior las habitaciones se disponen en a un patio porticado en tres de sus lados, y cuenta con una interesante escalera que comunica los distintos pisos.
Hasta mediados del siglo XIX fue propiedad del Patrimonio Real, pero poco después se vendió a D. Ignacio Baüer, por lo que pasó a llamarse Casa Baüer hasta la actualidad. Este propietario mandó realizar un gran jardín que rodea el edificio por los lados sur y este. Podemos ver el cerramiento de dicho jardín a continuación de la fachada principal, donde se levantó un espléndido pórtico con columnas dóricas adosado a la fachada lateral. En la parte posterior el jardín contribuyó a dar un aspecto cuadrangular a la Plaza de la Cebada.