Cuando Greg Cartwright de Reigning Sound reunió la lista de canciones para el LP Home for Orphans en 2005, las extrajo de un grupo de descartes y rarezas grabadas en varios rincones de su ciudad natal de Memphis. El año anterior el grupo presentaba su estridente LP Too Much Guitar!, pero en el suelo de la sala de grabación quedaban tomas alternativas de Funny Thing y de If You Can't Give Me Everything.