Ciao Marta 
Un sistema lineare non è nient'altro che un sistema costituito solamente da equazioni lineari, cioè equazioni polinomiali con più incognite in cui ogni singolo termine ha potenza 1 oppure 0 (termine noto).
Sono stato un po' troppo sbrigativo, ma se vuoi approfondire puoi trovare tutte le spiegazioni del caso in questa lezione: sistemi lineari. Ti consiglio di leggerla 
Di contro, qualsiasi sistema che non sia lineare è - udite udite!
- un sistema non lineare.
Quando si parla di sistemi lineari puoi trovare equazioni della natura più svariata, ma non aspettarti necessariamente cose pazzesche...perché un semplicissimo sistema come

è un semplicissimo esempio di sistema non lineare.