Povestea tabloului este simpla. Tabloul reda casa in care van Gogh a locuit in Arles, o casa situata in Piata Lamartine din orasul care a fost la inceput o colonie greceasca. Arles are cladiri impresionante, printre care un amfiteatru, cel mai mare de altfel din Franta, un teatru, un circ si baile publice. Orasul intemeiat in secolul VI, infloritor intre secolele XII-XV, s-a oprit totusi la statutul de oras provincial si are astazi un numar de aproape 30.000 de locuitori.
Casa in care van Gogh a locuit la Arles este descrisa si in scrisorile sale catre apropiati. Van Gogh le spunea ca este o cladire cu un aer vesel, cu usa si obloane verzi si cu pereti albi cu stampe japoneze in interior. La putin timp insa tablourile lui van Gogh erau atarnate pe peretii casei.
In septembrie 1888 Gauguin a sosit si el in Arles si casa galbena a fost impartita de cei doi.
Tabloul a avut si alte nume, unul dintre ele Strada (La Rue), dar astazi este cunoscut sub numele Casa Galbena.
In apropierea casei se afla si un restaurant, umbrit de un copac, la care van Gogh obisnuia sa manance. Restaurantul a fost si el redat de pictor.
Van Gogh a realizat un numar impresionant de lucrari, aproximativ 800 de tablouri in ulei, aproape 700 de desene si multe dintre ele sunt definite de galben. Au existat multe controverse despre inclinatia lui catre galben, de la un viciu al vederii care determina o vedere intr-un spectru galben sau pur si simplu o atractie pentru aceasta culoare.
Multe tablouri ale lui Vincent van Gogh au intr-adevar aceasta culoare definitorie : Noapte instelata, Cafeneaua de noapte, ca sa nu mai vorbim de fascinatia pe care floarea - soarelui a avut-o asupra lui si de autoportretele reprezentate intr-o lumina galbena.