R 

Prerna Tower, Road No ­ 2, Contractors Area,  Bistupur, Jamshedpur ­ 831001, Tel ­ (0657)2221892, www.prernaclasses.com 

IIT­JEE  2011  Mathematics Paper­II 

PART III ­ MATHEMATICS 
SECTION  ­ I  (Total Marks : 24) 
(Single Correct Answer Type) 

This  section contains 8 multiple choice questions. Each question has four choices (A), (B), (C) 
and (D) out of which ONLY ONE is correct. 

41.  Let f (x) = x 2 and g(x) = sin x for all x Î R. Then the set of all x satisfying (f o g o g o f)(x) = 

(g o g o f) (x), where (f o g) (x) = f (g (x)), is 
(A)  ± n p , n Î {0, 1, 2, ........}  (B)  ± n p , n Î {1, 2, ........} 
(C)  (p / 2) + 2np, n Î {....., – 2, – 1, 0, 1, 2,.......}  (D)  2np, n Î {....., – 2, – 1, 0, 1, 2, ........} 

41.  (A)  (f o g o g o f)(x) = (g o g o f) (x)

Þ [sin sin x 2 ] 2 = sin sin x 2 Þ sin sin x 2 = 0 or 1
Þ x=± n p , n Î {0, 1, 2, ........}. 

42.  Let (x, y) be any point on the parabola y 2 = 4x. Let P be the point that divides the line segment 

from (0, 0) to (x, y) in the ratio 1 : 3. Then the locus of P is 
(A)  x 2  = y  (B)  y 2  = 2x  (C)  y 2  = x  (D)  x 2  = 2y 

42.  (C)  y = 2Öx 

Let P be (h, k)  x = 4h, Öx = 2k Þ k 2 = h
\ Locus of P is y 2 = x. 

x 2 y 2 
43.  Let P(6, 3) be a point on the hyperbola  = 1 . If the normal at the point P intersects the 
-
a 2  b 2 
x­axis at (9, 0), then the eccentricity of the hyperbola is 
(A) Ö(5 / 2)  (B) Ö(3 / 2)  (C) Ö2  (D) Ö3 

43.  (B)  Normal to hyperbola at P(6, 3) 

x - 6  y - 3 
=
2 
6 / a  - 3 / b 2 
y = 0 Þ x = 6 + 6 (b 2 /a 2 ) = 9 Þ b 2  /a 2 = 1 / 2 
e 2  = 1 + (b 2 /a 2 ) = 3 / 2 Þ e = Ö(3 / 2). 

44.  A value of b for which the equations 

x 2  + bx – 1 = 0 
x 2  + x + b = 0 
have one root in common is 
(A)  – Ö2  (B)  – iÖ3  (C)  iÖ5  (D) Ö2

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 1 ­  www. prernaclasses.com 

44.  (B) a be the common root
a2  + ba – 1 = 0
a2  + a + b = 0

2 b 2  + 1  1 + b 
Þ a = ,  a = \ b 3 +3b = 0 Þ b 2  = – 3 \ b =– iÖ3. 
1 - b  b - 1 

45.  Let w ¹ 1 be a cube root of unity and S be the set of all non­singular matrices of the form

é 1  a  b ù
ê w 1  c ú
ê ú , where each of a, b and c is either w or w2 . Then the number of distinct matrices in 
2 
êëw w 1 úû
the set S is 
(A)  2  (B)  6  (C)  4  (D)  8 

1  a b 
45.  (A)  w 1  c  ¹ 0 
w2 w 1 
Þ 1 – (a + c)w + acw2 ¹ 0 \ a + c ¹ – 1  ac ¹ 1 
Clearly a = w or w2  or  c = w or w2 
b can take any value w or w2 
but c ¹ w2 as it makes the determinant zero. 
also  a ¹ w2
\ a = w, b = w2 or w, c = w
\ No of such matrices = 2. 

46.  The circle passing through the point (– 1, 0) and touching the y­axis at (0, 2) also passes through 

the point 
(A)  (– 3 / 2, 0)  (B)  (– 5 / 2, 2)  (C)  (– 3 / 2, 5 / 2)  (D)  (– 4, 0) 

46.  (D)  Let C be (h, 2) 

Equation of circle:  (x – h) 2 + (y– 2) 2 = h 2 
Q circle passes through (– 1, 0), h = – 5 / 2 
Equation of circle will be (x + (5 / 2)) 2 + (y – 2) 2 = 25 / 4 
Only (– 4, 0) satisfies. 

2  1 / x  2 
47.  If Lim [ 1 + x ln( 1 + b  )]  = 2 b sin  q , b > 0 and q Î (– p, p] then the value of q is 
x ®0 
(A)  ± p / 4  (B)  ± p / 3  (C)  ± p / 6  (D)  ± p / 2 

47.  (D)  1 + b 2 = 2b sin 2 q Þ b 2 – 2b sin 2 q + 1 = 0

2 sin 2 q ± 4 sin 4 q - 4 
Þ b = = sin 2 q ± - cos 2 q( 1 + sin 2 q) 
2 
For b to be real, cos q = 0 Þ q = ± p / 2.

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 2 ­  www. prernaclasses.com 

48.  Let f : [– 1, 2] ® [0, ¥) be a continuous function such that f (x) = f (1 – x) for all x Î [– 1, 2]. 
2 
Let R 1 = ò x f ( x ) dx , and R 2 be the area of the region bounded by y = f (x), x = – 1, x = 2, and 
-1 
the x­axis. Then 
(A)  R 1  = 2R 2  (B)  R 1  = 3R 2  (C)  2R 1  = R 2  (D)  3R 1  = R 2 

2 
48.  (C)  R1 = ò ( 1 - x ) f ( 1 - x ) dx  = R 2  - R 1  Þ 2R 1  = R 2 . 
-1 

SECTION  ­ II (Total Marks : 16) 
Multiple Correct Choice Type 
This  section contains 4 multiple choice questions. Each question has four choices (A), (B), (C) 
and (D) out of which ONE OR MORE may be correct. 

49.  Let L be a normal to the parabola y 2 = 4x. If L passes through the point (9, 6), then L is given by 

(A)  y – x + 3 = 0  (B)  y + 3x – 33 = 0  (C)  y + x – 15 = 0  (D)  y – 2x + 12 = 0 

49.  (A)(B)(D)  Equation of normal y = mx – 2am – am 3  i.e  y = mx – 2m – m 3 
Passing through (9, 6) \ m 3  – 7m + 6 = 0 Þ m = – 3, 2, 1
\ Equation of normals are y + 3x – 33 = 0, y – 2x + 12 = 0, y – x + 3 = 0. 

b - x 
50.  Let f : (0, 1) ® R be defined by f ( x ) = , where b is a constant such that 0 < b < 1. Then 
1 - bx 
1 
(A)  f is not invertible on (0, 1)  (B)  f ¹ f – 1 on (0, 1) and  f ¢( b ) =
f ¢( 0 ) 
1 
(C)  f = f – 1 on (0, 1) and  f ¢( b ) = (D)  f – 1 is differentiable on (0, 1) 
f ¢( 0 ) 

( b 2 - 1 ) 
50.  (C)(D)  f ¢( x ) = < 0  " x Î (0, 1) as b Î (0, 1) 
( 1 - bx ) 2 
Also, f (x) is continuous for all x Î (0, 1) as domain of definition is R – {1 / b} whre 1 / b > 1 
Hence, f (x) is strictly decreasing, so invertible. 
b - x  y  - b  b - x 
f ( x ) = y  = Þ x= Þ f -1 ( x ) = = f ( x ) 
1 - bx  yb - 1 1 - bx 
1 
f ¢( b ) = and f ' (0) = b 2 – 1 
2
b  - 1 
Since, f ' (x) exist for all x Î (0, 1) Þ f – 1 is differentiable for all x Î (0, 1).

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 3 ­  www. prernaclasses.com 

51.  Let E and F be two independent events. The probability that exactly one of them occurs is 
11 / 25 and the probability of none of them occuring is 2 / 25. If P(T) denotes the probability of 
occurence of the event T, then 
(A)  P(E) = 4 / 5, P(F) = 3 / 5  (B)  P(E) = 1 / 5, P(F) = 2 / 5 
(C)  P(E) = 2 / 5, P(F) = 1 / 5  (D)  P(E) = 3 / 5, P(F) = 4 / 5 

51.  (A)(D)  P (E Ç F ) + P ( E  Ç F ) = 11 / 25 , P ( E  Ç F ) = 2 / 25 

Let P(E) = x, P(F) = y \ P (E ) . P ( F ) = 2 / 25  Þ (1 – x) (1 – y) = 2 / 25 
Also  P (E ) . P ( F ) + P ( E ) . P ( F ) = 11 / 25  Þ x (1 – y) + (1 – x) y = 11 / 25 
Solving x = 3 / 5 or 4 / 5 and y = 4 / 5 or 3 / 5. 

ì p p
ï - x - 2 , x £ - 2 
ïï p
52.  If f ( 
x ) = í- cos x , - 2 < x £ 0 , then 
ï x - 1 , 0 < x £ 1 
ï
îï ln x ,  x  > 1 
(A)  f (x) is continuous at x = p / 2  (B)  f (x) is not differentiable at x = 0 
(C)  f (x) is differentiable at x = 1  (D)  f (x) is differentiable x = – 3 / 2 

ì p p
ï - x - 2 , x £ - 2 
ïï p
52.  (ABCD) f ( x ) = í- cos x , - < x £ 0 
ï x - 1 , 0 <2 x £ 1 
ï
îï ln x ,  x  > 1 
Continuity at x = – p / 2 
L.H.L = R.H.L = f (– p / 2) = 0

ì p
ï - 1 , x £ - 2 
ïï p
\ f ¢( x ) = ísin x , - < x £ 0 
ï 1 , 0 <2 x £ 1 
ï
ïî 1 / x ,  x  > 1 

Clearly, f (x) is not differentiable at x = 0, f (x) is differentiable at x = 1 and 

f (x) is differentiable x = – 3 / 2.

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 4 ­  www. prernaclasses.com 

 Section ­ III (Total Marks : 24) 
(Integer Answer Type) 

This section contains 6 questions. The answer to each of the questions is a single­digit 

integer, ranging from 0 to 9. The bubble corresponding to the correct answer is to be 
darkened in the ORS. 
53.  Let w = e i p 3 , and a, b, c, x, y, z, be non­zero complex numbers such that 

a + b + c = x 
a + b w + c w 2  = y 
a + b w 2  + c w = z 
2  2  2 
x + y  + z 
Then the value of  2  2  2  is 
a  + b  + c 
53.  3.  |x | 2 + | y| 2 + | z| 2  = x x c  + y y c + z z c 
= (a + b + c) (a c + b c + c c ) + (a + bw + cw2 ) (a c + b cw2 + c c w) 
+ (a + bw2 + cw) (a c + b cw + c cw2 ) 
| x | 2  + | y | 2  + | z | 2 
=  3(|a| 2 + |b| 2 + |c| 2 ) Þ = 3 
| a | 2  + | b | 2  + | c | 2 

d f ( x ) 
54.  Let y'(x) + y (x) g '(x) = g(x) g'(x), y (0) = 0, x Î R, where f '(x) denotes  and g(x) is a given 
dx 
non­constant differentiable function on R with g(0) = g (2)= 0. Then the value of y (2) is 
54.  0.  y ' (x) + y (x) g' (x) = g (x) g ' (x) 
Linear differential equation with integrating factor e g(x)
Þ y (x) . e g(x) = ò g(x) . g' (x) . e g(x) dx Þ y (x) . e g(x) = e g(x) (g(x) – 1) + c 
Since, y (0) = 0 and g(0) = 0 Þ c = 1
Þ y (x) = (g(x) – 1) + e – g(x) Þ y (2) = (g(2) – 1) + e – g(2) = 0. 

55.  Let M be a 3 × 3 matrix satisfying

é0 ù é- 1 ù é 1 ù é 1 ù é1 ù é 0 ù

M ê 1 ú = ê 2 ú, M ê - 1 ú = ê 1 ú, and M êê1 úú = êê 0 úú
ê ú ê ú ê ú ê ú
êë0 úû êë 3 úû êë 0  úû êë- 1 úû êë1 úû êë12 úû
Then the sum of the diagonal entries of M is 

æ x 1  x 2  x 3 ö

ç ÷
55.  9. M = ç x 4  x 5  x 6 ÷
ç x  x  x  ÷
è 7  8  9 ø

æ 0 ö æ - 1 ö
ç ÷ ç ÷
M ç 1 ÷ = ç 2  ÷ Þ x 2  = – 1,  x 5 = 2, x 8 = – 3
ç 0 ÷ ç 3  ÷
è ø è ø

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 5 ­  www. prernaclasses.com 

 æ 1  ö æ 1  ö
ç ÷ ç ÷
M ç - 1 ÷ = ç 1  ÷ Þ x 1  – x 2  = 1, x 4  – x 5  = 1, x 7  – x 8  = – 1
ç 0  ÷ ç - 1 ÷
è ø è ø
Þ x 1 = 0,  x 4 = 3, x 7 = – 2
æ 1 ö æ 0  ö
ç ÷ ç ÷
M ç 1 ÷ = ç 0  ÷ Þ x 1  + x 2  + x 3  = 0; x 4  + x 5 + x 6  = 0, x 7  + x 8  + x 9 = 12
ç 1 ÷ ç 12 ÷
è ø è ø
Þ x 3 = 1,  x 6 = – 5, x 9 = 7
æ 0  - 1  1  ö
ç ÷
\ M = ç 3  2  - 5 ÷ \ Sum of diagonal entries = 9. 
ç 2  3  7  ÷
è ø

56.  The straight line 2x – 3y = 1 divides the circular region x 2 + y 2 £ 6 into two parts. If

ìæ 3 ö æ 5  3 ö æ 1  1 ö æ 1  1 ö ü
S  = íç 2 ,  ÷ , ç , ÷ , ç , - ÷ , ç , ÷ ý * 
îè 4 ø è 2  4 ø è 4  4 ø è 8  4 ø þ
then the number of point(s) in S lying inside the smaller part is 

æ 1  ö æ - 1 ö æ 5  3  ö
56.  2.  2x – 3y = 1 meets co­ordinate axes at ç , 0 ÷ & ç 0 ,  ÷ . ç , , ÷ lies outside the circle 
è 2  ø è 3  ø è 2  4  ø
hence ruled out. 

3 
For,  x = 2,  y =  : 2x – 3y  – 1 > 0 
4 
1  -1
For,   x =  ,  y =  :  2x – 3y  –1 > 0 
4  4 
1  1 
For,   x =  ,  y =  :  2x – 3y  –1 < 0
8  4 
æ 3 ö æ 1  - 1 ö
Þ ç 2 ,  ÷ & ç , ÷ are the only two points. 
è 4 ø è 4  4  ø
r  r r r 
57.  Let  a = -i ˆ - k 
ˆ , b  = -i ˆ + ˆ 
j  and  c  = i ˆ + 2 ˆ  ˆ be three given vectors. If  r 
j  + 3 k  is a vector such that 
v  r r r r r r  r
r  ´ b  = c  ´ b  and  r . a  = 0 , then the value of  r . b  = 0 is. 
r  r  r  r 
57.  9.  ( r r  –  c ) ×  b  = 0 Þ r 
r  =  c  + l b  = (1 – l) i ˆ  + (2 + l)  ˆ  ˆ 
j  + 3 k 
r 
If  r r  = x i ˆ  + y  ˆ  ˆ , then  r r  .  a  = 0
j  + z k  Þ  – x – z = 0 Þ  x = – z 
Also, x = 1 – l, y = 2 + l, z = 3 Þ  – 3 = 1 – l Þ l = 4
r  r  r 
\ r  = – 3 i ˆ  + 6  ˆj + 3 k 
ˆ \ r  .  b  = 3  + 6 = 9.

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 6 ­  www. prernaclasses.com

58.  The number of distinct real roots of x 4  – 4 x 3 + 12x 2 + x – 1 = 0 is 
58.  2.  Let us assume that all four roots are real and distinct. 
Hence, f ' (x) = 0 must have 3 distinct real roots and 
f '' (x) = 0 must have 2 distinct real roots, but that is not true as 
f '' (x) = 12 (x 2 – 2x + 2) with D < 0. 
Hence, f (x) = 0 can’t have all four roots real. 
As, f (0) = – 1, f (1) = 9 and f (– 1) = 15
Þ f (x) = 0 must have two distinct roots one in (– 1, 0) and the other one in (0, 1). 
SECTION  ­ II  ( Total Marks : 16) 
(Multiple Correct Answers Type) 
This section contains 2 questions. Each question has four statements (A, B, C and D) given 
in Column I and five statements (p,q, r,s and t) in Column II . Any given statement in Column 
I can have correct matching with ONE and MORE statement(s) given in Column II. For example, 
if for a given question, statement B matches with the statments given in q and r, then for the 
particular question, against statement B, darken the bubbles corresponding to q and r in the 
ORS. 

59.  Match the statements given in Column I with the values given in Column II. 

Column I  Column II 

r  r r  p
(A)  If  a = ˆj  + 3 k 
ˆ , b = - ˆ  ˆ 
ˆ  and  c = 2 3  k 
j + 3 k  (p) 
6
form a triangle, then the internal angle of the 
r  r 
triangle between  a  and  b  be 
b 
2  2  2p
(B)  If ò ( f ( x ) - 3 x ) dx = a  - b  , then the value of 
a 
(q) 
3 
æp ö
f ç ÷ is 
è6ø
5 
p 2  6 
p
(C)  The value of ln 3  sec ( p x ) dx  is 
ò (r) 
7  3
6 

æ 1  ö
(D)  The maximum valuye of Arg ç ÷ for  (r) p
è 1 - z ø
| z | = 1, z ¹ 1 is given by 
p
(t) 
2

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 7 ­  www. prernaclasses.com 

59.  (A) ® (q), (B) ® (p), (C) ® (s), (D) ® (t) 
r  r 
For (A):  Since, side lengths are 2, 2, 2Ö3, hence angle between  a  and  b  is 
4 + 4 - 12 
cos q =  = – 1 / 2 Þ q = 2p / 3. 
2 . 2 . 2 
b 
For (B): ó f ( x ) dx  = 1 (b 2 - a 2 )  Þ f (x) = x Þ f (p / 6) = p / 6. 
ô
õ 2 
a 

p p 1 
For (C): ((ln sec px + tan px )) 5 
7 
/ 6 
/ 6  = [ln  3 - ln  ] = p
ln 3  ln 3  3 
1  ( 1 - cos q) + i sin q
For (D):  z = e iq, =
1 - z ( 1 - cos q) 2  + sin 2 q

æ 1  ö sin q
\ argç ÷= = f ( q ) , which is maximum when q = p / 2. 
è 1 - z ø 1 - cos q
60.  Match the statements given in Column I with the intervals/ union of intervals given in Column II 
Column I  Column II 
(A)  The set
ì æ 2 iz ö ü
íRe ç 2  ÷
: z is a complex number , z  = 1 , z ¹ ±1 ý (p) (– ¥, – 1) È (1, ¥) 
î è 1 - z  ø þ
is 

(B)  The domain of the function
æ 8 ( 3 ) x -2  ö
f (x ) = sin -1 çç ÷
2(x -1)  ÷ is  (q)  (– ¥, 0) È (0, ¥) 
è 1 - 3  ø

1  tan q 1 
(C)  If  f (q ) = - tan q 1  tan q ,  then the set  (r)  [ 2, ¥)
- 1  - tan q 1 

ì pü
íf (q ) : 0 £ q < ý is 
î 2 þ
3
(D)  If  f ( x ) = x  2  ( 3 x - 10 ), x  ³ 0 ,  then f (x) is  (s)  (– ¥, – 1] È [1, ¥) 

increasing in 

(t) (– ¥, 0] È [2, ¥)

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 8 ­  www. prernaclasses.com 

 æ 2 iz  ö æ 2 ie iθ  ö æ 2 i (cos q + i sin q )  ö
60.  (A) ® (s)  Let k = Re ç 2  ÷ = Re çç ÷ Re ç
2iθ  ÷ = 2  ÷
è 1 - z  ø è 1 - e  ø è 2 sin  q - 2 i sin q cos q ø
æ - 2 i (cos q + i sin q )  ö -1
= Re çç ÷÷ =
è 2 i sin q (cos q + i sin q ) ø sin q
It is defined only when k Î ( – ¥, –1 ] È [ 1 ,¥) 

8 .( 3 x - 2 ) 
(B) ® (t)  Since,   –1 £ £ 1 
1 - 3 2 x - 2 
8 . 3 x 
Þ  – 1 £ £ 1 
9 - 3 2 x 
Put  y = 3 x
8 y
Þ – 1 £ £1
9 - y 2 
8 y ( y - 9 )( y + 1 ) 
\ – 1 £ Þ ³ 0 
9 - y 2  ( y + 3 )( y - 3 ) 
( y  - 9 ) 
Þ ³ 0  ( Q y + 1 and y + 3 are always  ( + ) ve)
( y  - 3 ) 
Þ y < 3 and y ³ 9
Þ x Î (- ¥ , 1) È [2 , ¥)
8 y ( y + 9 )( y  - 1 )  ( y - 1 ) 
and 2  £ 1 Þ
³ 0  Þ ³ 0 
9 - y  ( y  + 3 )( y  - 3 )  ( y  - 3 ) 
Þ y £ 1 and y > 3
Þ x Î (- ¥ , 0] È (2 , ¥)
\ The common solution is  x Î (- ¥ , 0] È (2 , ¥). 

1  tan q 1 
(C) ® (r)  Since ,  f (q ) = - tan q 1  tan q ,  =  2 sec 2q \  f (q)  Π[2 , ¥) 
- 1  - tan q 1 

(D) ® (r)  Let  f(x) = x 3 /2  (3x – 10)

Þ  f '(x)  = (3 / 2) x 1/ 2  (3x – 10) + x 3 /2  × 3 
For increasing, 
` \ f ' (x) ³ 0
Þ  3 Öx [(3x / 2)  –  5 + x] ³ 0
Þ 3 Öx . (5x – 10) ³ 0 Þ x ³ 2.

IIT­JEE ­ 2011  (10­Apr­11)  Questions & Solutions Paper­II  ­ 9 ­  www. prernaclasses.com