IFK Luleå är den äldsta och mest anrika sportklubben i Luleå. Från början hade man verksamhet i en rad olika sporter men idag är det endast fotbollssektionen som finns kvar. Herrlaget spelade i Allsvenskan 1971. Efter en framgångsrik inledning på säsongen dalade man under andra halvan och åkte till sist ur serien. Anledningen kan ha varit den träningsmatch man spelade mot Liverpool FC under uppehållet, en match som var relativt rå och där flera nyckelspelare i IFK skadade sig.
I slutet av 1980-talet och början av 1990-talet upplevde klubben en ny storhetstid. Flera säsonger i rad var man med i toppstriden i gamla norrettan, som på den tiden var Sveriges näst högsta division tillsammans med söderettan. 1992 vann IFK Luleå serien och spelade sedan en kvalserie med fyra lag, Degerfors IF, Örgryte IS, Helsingborgs IF och Luleå. Den inbördes ordningen avgjorde sedan vilket av fyra andra lag man skulle få möta i ett direktkval om att gå till Allsvenskan 1993. IFK Luleå vann bortamatchen mot favorittippade Degerfors IF med 1-0 efter mål av Christer Andersson. Därefter spelade man 1-1 hemma mot Örgryte IS och 3-3 borta mot Helsingborgs IF (med en viss Henrik Larsson i laget). Helsingborgs IF kvitterade på övertid, vilket gjorde att IFK Luleå missade förstaplatsen i kvalserien och ställdes mot Västra Frölunda IF i kvalet.
I den första kvalmatchen vann IFK Luleå med 2-1. Matchen spelades på Hertsö IP:s konstgräs i Luleå i tolvgradig oktoberkyla. Returen spelades två veckor senare på Ruddalens IP i Göteborg. IFK Luleå ledde i halvtid med 2-0 och Västra Frölunda var tvingade att vinna med minst två måls marginal. Det gjorde de. Göteborgarna vann med 4-2 och drömmen om att åter se allsvensk fotboll i Luleå dog på mindre än 20 minuter. Men många av dåtidens framgångsrika spelare i IFK Luleå gick senare till allsvenska klubbar, exempelvis Joachim Karlsson som hade stora framgångar i Trelleborgs FF.
I dag har laget rasat i seriesystemet och år 2007 spelade klubben i division 2 Norrland. Laget missade seriesegern på mållinjen då man föll i sin sista match samtidigt som Ersboda vann sin och gick förbi.
2010 tog äntligen IFK Luleå steget upp i Division 1 norra, efter fyra raka andra platser i division 2 norrland.
Fredric Lundqvist, vars moderklubb är Gammelstads IF, är den spelare med flest meriter som spelat i IFK Luleå. Lundqvist har ett flertal A-landskamper i bagaget. "Lunkan" har nu lagt fotbollsskorna på hyllan och inför säsongen 2008 har han tackat ja till att ingå i IFK Luleås fotbollsutskott.