Gråhval lever først og fremst på små krepsdyr kalt amfipoder som bor på havbunnen. Disse amfipodene er små, omtrent på størrelse med et riskorn, og de utgjør hoveddelen av den grå hvalens kosthold.
De spiser også:
* Andre små virvelløse dyr: Dette kan omfatte små reker, ormer og andre krepsdyr.
* fisk: Selv om de ikke er så vanlige, kan grå hvaler av og til spise liten fisk som de finner på havbunnen.
For å fôre, bruker grå hvaler baleplatene sine for å filtrere ut vannet og fange opp de små virvelløse dyrene. De gjør dette ved å suge inn store mengder sediment og vann, og tvinger deretter vannet ut gjennom baleplatene og etterlater maten.
Interessant nok vandrer grå hvaler lange avstander for å finne maten. De tilbringer sommermånedene på å fôre i det kalde, næringsrike vannet i Arktis og Subarktis, og vandrer deretter sørover til varmere vann for avl om vinteren.