First check the characteristic solution: the characteristic equation for this DE is
<em>r</em> ² - 3<em>r</em> + 2 = (<em>r</em> - 2) (<em>r</em> - 1) = 0
with roots <em>r</em> = 2 and <em>r</em> = 1, so the characteristic solution is
<em>y</em> (char.) = <em>C₁</em> exp(2<em>x</em>) + <em>C₂</em> exp(<em>x</em>)
For the <em>ansatz</em> particular solution, we might first try
<em>y</em> (part.) = (<em>ax</em> + <em>b</em>) + (<em>cx</em> + <em>d</em>) exp(<em>x</em>) + <em>e</em> exp(3<em>x</em>)
where <em>ax</em> + <em>b</em> corresponds to the 2<em>x</em> term on the right side, (<em>cx</em> + <em>d</em>) exp(<em>x</em>) corresponds to (1 + 2<em>x</em>) exp(<em>x</em>), and <em>e</em> exp(3<em>x</em>) corresponds to 4 exp(3<em>x</em>).
However, exp(<em>x</em>) is already accounted for in the characteristic solution, we multiply the second group by <em>x</em> :
<em>y</em> (part.) = (<em>ax</em> + <em>b</em>) + (<em>cx</em> ² + <em>dx</em>) exp(<em>x</em>) + <em>e</em> exp(3<em>x</em>)
Now take the derivatives of <em>y</em> (part.), substitute them into the DE, and solve for the coefficients.
<em>y'</em> (part.) = <em>a</em> + (2<em>cx</em> + <em>d</em>) exp(<em>x</em>) + (<em>cx</em> ² + <em>dx</em>) exp(<em>x</em>) + 3<em>e</em> exp(3<em>x</em>)
… = <em>a</em> + (<em>cx</em> ² + (2<em>c</em> + <em>d</em>)<em>x</em> + <em>d</em>) exp(<em>x</em>) + 3<em>e</em> exp(3<em>x</em>)
<em>y''</em> (part.) = (2<em>cx</em> + 2<em>c</em> + <em>d</em>) exp(<em>x</em>) + (<em>cx</em> ² + (2<em>c</em> + <em>d</em>)<em>x</em> + <em>d</em>) exp(<em>x</em>) + 9<em>e</em> exp(3<em>x</em>)
… = (<em>cx</em> ² + (4<em>c</em> + <em>d</em>)<em>x</em> + 2<em>c</em> + 2<em>d</em>) exp(<em>x</em>) + 9<em>e</em> exp(3<em>x</em>)
Substituting every relevant expression and simplifying reduces the equation to
(<em>cx</em> ² + (4<em>c</em> + <em>d</em>)<em>x</em> + 2<em>c</em> + 2<em>d</em>) exp(<em>x</em>) + 9<em>e</em> exp(3<em>x</em>)
… - 3 [<em>a</em> + (<em>cx</em> ² + (2<em>c</em> + <em>d</em>)<em>x</em> + <em>d</em>) exp(<em>x</em>) + 3<em>e</em> exp(3<em>x</em>)]
… +2 [(<em>ax</em> + <em>b</em>) + (<em>cx</em> ² + <em>dx</em>) exp(<em>x</em>) + <em>e</em> exp(3<em>x</em>)]
= 2<em>x</em> + (1 + 2<em>x</em>) exp(<em>x</em>) + 4 exp(3<em>x</em>)
… … …
2<em>ax</em> - 3<em>a</em> + 2<em>b</em> + (-2<em>cx</em> + 2<em>c</em> - <em>d</em>) exp(<em>x</em>) + 2<em>e</em> exp(3<em>x</em>)
= 2<em>x</em> + (1 + 2<em>x</em>) exp(<em>x</em>) + 4 exp(3<em>x</em>)
Then, equating coefficients of corresponding terms on both sides, we have the system of equations,
<em>x</em> : 2<em>a</em> = 2
1 : -3<em>a</em> + 2<em>b</em> = 0
exp(<em>x</em>) : 2<em>c</em> - <em>d</em> = 1
<em>x</em> exp(<em>x</em>) : -2<em>c</em> = 2
exp(3<em>x</em>) : 2<em>e</em> = 4
Solving the system gives
<em>a</em> = 1, <em>b</em> = 3/2, <em>c</em> = -1, <em>d</em> = -3, <em>e</em> = 2
Then the general solution to the DE is
<em>y(x)</em> = <em>C₁</em> exp(2<em>x</em>) + <em>C₂</em> exp(<em>x</em>) + <em>x</em> + 3/2 - (<em>x</em> ² + 3<em>x</em>) exp(<em>x</em>) + 2 exp(3<em>x</em>)