Voksne gråhvaler er bærehvaler, noe som betyr at de har bæreplater i stedet for tenner. Disse platene er laget av keratin, samme materiale som menneske negl, og brukes til å filtrere mat fra vannet.
Voksne gråhvaler er primært avhengige av små kreklingar kalt krill og andre små virvelløse dyr som amfipoder og kopepoder. De spiser også litt småfisk.
For å finne maten sin bruker gråhvaler en teknikk kalt mud-plugging. De skroper opp store mengder sediment fra havbunnen, bruker bæreplatene sine til å filtrere ut matpartiklene og kaste ut mudden og vannet.