A través de iTunes, REM lanza unos 131 audios raros que datan entre 1988 hasta 2011. La compilación reúne canciones tomadas de programas de televisión (Saturday Night Live), shows en vivo (Glastonbury), grabaciones de estudio, remixes, pruebas de sonido, covers («Dark Globe» por Syd Barrett, «First We Take Manhattan» de Leonard Cohen y «Funtime», Iggy Pop, incluido). El nombre del trabajo es «Complete Rarities: Warner Bros. De 1988 a 2011».
Recientemente, el grupo también lanzó otra compilación, esta vez cubriendo el período de 1982 a 1987 con el contenido de otras 50 bandas, entre ellas versiones de «Pale Blue Eyes» y «There She Goes Again», la Velvet Underground, y «Moon River «de Andy Williams. Titulado «Rarities completas – I.R.S. 1982 – 1987», la colección también se pueden comprar a través de iTunes, y revela el periodo independiente de la banda.