First simplify the rational expression by dividing. The degree in the numerator has to be at least 1 less than the degree in the denominator before you can decompose into partial fractions.
(3<em>x</em>³ - 5<em>x</em>² - 3<em>x</em> - 40) / ((<em>x</em>² + 4) (<em>x</em> - 3)) = 3 + (4<em>x</em>² - 15<em>x</em> - 4) / ((<em>x</em>² + 4) (<em>x</em> - 3))
Now decompose the remainder term into partial fractions:
(4<em>x</em>² - 15<em>x</em> - 4) / ((<em>x</em>² + 4) (<em>x</em> - 3)) = (<em>ax</em> + <em>b</em>) / (<em>x</em>² + 4) + <em>c</em> / (<em>x</em> - 3)
Multiply both sides by the denominator on the left:
4<em>x</em>² - 15<em>x</em> - 4 = (<em>ax</em> + <em>b</em>) (<em>x</em> - 3) + <em>c</em> (<em>x</em>² + 4)
Expand the right side:
4<em>x</em>² - 15<em>x</em> - 4 = <em>ax</em>² + (<em>b</em> - 3<em>a</em>) <em>x</em> - 3<em>b</em> + <em>cx</em>² + 4<em>c</em>
4<em>x</em>² - 15<em>x</em> - 4 = (<em>a</em> + <em>c</em>) <em>x</em>² + (<em>b</em> - 3<em>a</em>) <em>x</em> - 3<em>b</em> + 4<em>c</em>
Then
<em>a</em> + <em>c</em> = 4
<em>b</em> - 3<em>a</em> = -15
-3<em>b</em> + 4<em>c</em> = -4
Solve this system to get
<em>a</em> = 5, <em>b</em> = 0, <em>c</em> = -1
We end up with
(4<em>x</em>² - 15<em>x</em> - 4) / ((<em>x</em>² + 4) (<em>x</em> - 3)) = 5<em>x</em> / (<em>x</em>² + 4) - 1 / (<em>x</em> - 3)
and so
(3<em>x</em>³ - 5<em>x</em>² - 3<em>x</em> - 40) / ((<em>x</em>² + 4) (<em>x</em> - 3))
= 3 + 5<em>x</em> / (<em>x</em>² + 4) - 1 / (<em>x</em> - 3)