Tytuł płyty stanowił de facto wyraz stanowiska The Beatles wobec kolegów i koleżanek po fachu, w domyśle tych o białym kolorze skóry, którzy i które próbowali wykonywać muzykę ściśle kojarzącą się z brzmieniem amerykańskich artystów, wykonujących muzykę soul. Wpaść na termin Rubber Soul miał sam Paul McCartney po tym, gdy zobaczył, że w jednej z recenzji krytyk nazwał muzykę ich rywali, The Rolling Stones, "plastikowym soulem". Beatlesi tworzyli więc "gumowy soul" i wskazywali, że mają do siebie dystans, a ich własna twórczość jest dużo bardziej bogata.